Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere

Ma kēia ʻatikala, makemake wau e kamaʻilio e pili ana i nā hiʻohiʻona o All Flash AccelStor arrays e hana pū ana me kekahi o nā kahua virtualization kaulana loa - VMware vSphere. ʻO ka mea nui, e nānā i kēlā mau ʻāpana e kōkua iā ʻoe e loaʻa ka hopena kiʻekiʻe loa mai ka hoʻohana ʻana i kahi mea hana ikaika e like me All Flash.

Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere

ʻO AccelStor NeoSapphire™ nā pūʻulu Flash āpau hoʻokahi mea ai ole ia, двух nā mea node e pili ana i ka SSD drive me kahi ala ʻokoʻa loa e hoʻokō i ka manaʻo o ka mālama ʻana i ka ʻikepili a me ka hoʻonohonoho ʻana i ke komo ʻana iā ia me ka hoʻohana ʻana i ka ʻenehana proprietary. FlexiRemap® ma kahi o ka RAID algorithms kaulana loa. Hāʻawi nā arrays i ke komo poloka i nā pūʻali ma o Fiber Channel a i ʻole iSCSI interfaces. No ka pololei, ʻike mākou ua loaʻa i nā hiʻohiʻona me kahi interface ISCSI ke komo i ka faila ma ke ʻano he bonus maikaʻi. Akā i kēia ʻatikala e kālele mākou i ka hoʻohana ʻana i nā protocol block e like me ka mea ʻoi loa no ka All Flash.

Hiki ke hoʻokaʻawale ʻia ke kaʻina holoʻokoʻa o ka hoʻolaha ʻana a me ka hoʻonohonoho ʻana o ka hana hui ʻana o ka hui AccelStor a me ka ʻōnaehana virtualization VMware vSphere i kekahi mau pae:

  • Ka hoʻokō ʻana i ka topology pili a me ka hoʻonohonoho ʻana o ka pūnaewele SAN;
  • Hoʻonohonoho i nā pūʻulu Flash āpau;
  • Ke hoʻonohonoho nei i nā pūʻali ESXi;
  • Hoʻonohonoho i nā mīkini virtual.

Ua hoʻohana ʻia nā ʻōkuhi ʻo AccelStor NeoSapphire™ Fiber Channel a me nā ʻāpana iSCSI ma ke ʻano he laʻana lako. ʻO ka polokalamu kumu ʻo VMware vSphere 6.7U1.

Ma mua o ka lawe ʻana i nā ʻōnaehana i wehewehe ʻia ma kēia ʻatikala, makemake nui ʻia ʻoe e heluhelu i ka palapala mai VMware e pili ana i nā pilikia hana (ʻO nā hana maikaʻi loa no ka VMware vSphere 6.7 ) a me nā hoʻonohonoho iSCSI (ʻO nā hana maikaʻi loa no ka holo ʻana i ka VMware vSphere ma iSCSI)

Topology pili a me ka hoʻonohonoho pūnaewele SAN

ʻO nā mea nui o kahi pūnaewele SAN he HBA i nā pūʻali ESXi, nā hoʻololi SAN a me nā nodes array. ʻO kahi topology maʻamau no ia pūnaewele e like me kēia:

Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere

ʻO ka huaʻōlelo Switch ma aneʻi e pili ana i kahi hoʻololi kino ʻokoʻa a i ʻole hoʻonohonoho o nā hoʻololi (Fabric), a me kahi hāmeʻa i hoʻokaʻawale ʻia ma waena o nā lawelawe like ʻole (VSAN ma ka hihia o Fiber Channel a me VLAN i ka hihia o iSCSI). ʻO ka hoʻohana ʻana i ʻelua mau hoʻololi kūʻokoʻa / Nā lole e hoʻopau i kahi hiki ʻole.

ʻO ka pilina pololei o nā pūʻali i ka laha, ʻoiai ua kākoʻo ʻia, ʻaʻole i ʻōlelo ʻia. He kiʻekiʻe loa ka hana o All Flash arrays. A no ka wikiwiki loa, pono e hoʻohana ʻia nā awa a pau o ka array. No laila, koi ʻia ka hele ʻana o hoʻokahi hoʻololi ma waena o nā pūʻali a me NeoSapphire™.

ʻO ka loaʻa ʻana o nā awa ʻelua ma ka host HBA he koi koi no ka hoʻokō ʻana i ka hana kiʻekiʻe a hōʻoia i ka hoʻomanawanui hewa.

I ka hoʻohana ʻana i kahi pānaehana Fiber Channel, pono e hoʻonohonoho ʻia ka zoning e hoʻopau i nā hui ʻana ma waena o nā mea hoʻomaka a me nā pahuhopu. Kūkulu ʻia nā ʻāpana ma ke kumu o "hoʻokahi awa hoʻomaka - hoʻokahi a ʻoi aku paha nā awa hoʻonohonoho."

Inā hoʻohana ʻoe i kahi pilina ma o iSCSI ma ke ʻano o ka hoʻohana ʻana i kahi hoʻololi i kaʻana like me nā lawelawe ʻē aʻe, a laila pono e hoʻokaʻawale i ke kaʻa iSCSI i loko o kahi VLAN kaʻawale. Manaʻo nui ʻia e hiki i ke kākoʻo no Jumbo Frames (MTU = 9000) e hoʻonui i ka nui o nā ʻeke ma ka pūnaewele a laila e hōʻemi i ka nui o ka ʻike ma luna i ka wā o ka lawe ʻana. Eia nō naʻe, pono e hoʻomanaʻo ʻia no ka hana pololei pono e hoʻololi i ka ʻāpana MTU ma nā ʻāpana pūnaewele āpau ma ke kaulahao "initiator-switch-target".

Hoʻonohonoho i nā pūʻulu Flash āpau

Hāʻawi ʻia ka array i nā mea kūʻai aku me nā hui i kūkulu ʻia FlexiRemap®. No laila, ʻaʻohe hana e pono ai e hoʻohui i nā drive i hoʻokahi hale. Pono ʻoe e hana i nā volumes o ka nui a me ka nui e pono ai.

Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere
Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere

No ka maʻalahi, aia kahi hana no ka hana ʻana i nā pūʻulu o nā puke o ka nui i hāʻawi ʻia i ka manawa hoʻokahi. Ma ka maʻamau, hana ʻia nā puke lahilahi, no ka mea e ʻae kēia i ka hoʻohana pono ʻana i nā wahi mālama i loaʻa (me ke kākoʻo no ka Space Reclamation). Ma keʻano o ka hana,ʻaʻole iʻoi aku ka nui o kaʻokoʻa ma waena o ka "thin" a me ka "mānoanoa" 1%. Eia nō naʻe, inā makemake ʻoe e "ʻoki i ka wai a pau" mai kahi ʻano, hiki iā ʻoe ke hoʻololi mau i ka leo "māmā" i kahi "mānoanoa". Akā e hoʻomanaʻo ʻia ʻaʻole hiki ke hoʻololi ʻia kēlā hana.

Ma hope aʻe, e hoʻomau i ka "paʻi" i nā puke i hana ʻia a hoʻonohonoho i nā kuleana komo iā lākou mai nā pūʻali e hoʻohana ana i nā ACL (nā leka uila IP no iSCSI a me WWPN no FC) a me ka hoʻokaʻawale kino ʻana e nā awa hoʻonohonoho. No nā hiʻohiʻona iSCSI e hana ʻia kēia ma ka hana ʻana i kahi Target.

Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere
Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere

No nā hiʻohiʻona FC, loaʻa ka paʻi ʻana ma o ka hana ʻana i kahi LUN no kēlā me kēia awa o ka array.

Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere
Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere

No ka wikiwiki i ke kaʻina hoʻonohonoho, hiki ke hoʻohui ʻia nā pūʻali i nā hui. Eia kekahi, inā hoʻohana ka mea hoʻokipa i kahi multiport FC HBA (ʻo ia ka mea i hana pinepine ʻia), a laila hoʻoholo koke ka ʻōnaehana i nā awa o ia HBA no kahi hoʻokipa hoʻokahi e hoʻomaikaʻi i nā WWPN i ʻokoʻa e hoʻokahi. Kākoʻo pū ʻia ka hana ʻana o Target/LUN no nā ʻaoʻao ʻelua.

ʻO kahi leka koʻikoʻi i ka wā e hoʻohana ai i ka interface iSCSI, ʻo ia ka hana ʻana i nā pahuhopu he nui no nā volumes i ka manawa hoʻokahi e hoʻonui ai i ka hana, ʻoiai ʻaʻole hiki ke hoʻololi ʻia ka pila ma ka pahu hopu a lilo ia i bottleneck.

Ke hoʻonohonoho nei i nā pūʻali ESXi

Ma ka ʻaoʻao hoʻokipa ESXi, hana ʻia ka hoʻonohonoho kumu e like me ke ʻano i manaʻo ʻia. Kaʻina hana no ka pilina iSCSI:

  1. Hoʻohui i ka Pūnaewele iSCSI Adapter (ʻaʻole koi ʻia inā ua hoʻohui ʻia, a inā ʻoe e hoʻohana ana i ka Hardware iSCSI Adapter);
  2. Ke hana ʻana i kahi vSwitch e hele ai i ka iSCSI traffic, a hoʻohui i kahi uplink kino a me VMkernal iā ia;
  3. Hoʻohui ʻana i nā ʻōlelo kikoʻī i Dynamic Discovery;
  4. Hana ʻia ka hale kūʻai ʻikepili

ʻO kekahi mau memo koʻikoʻi:

  • Ma ka hihia maʻamau, ʻoiaʻiʻo, hiki iā ʻoe ke hoʻohana i kahi vSwitch i loaʻa, akā i ka hihia o kahi vSwitch kaʻawale, e maʻalahi ka mālama ʻana i nā hoʻonohonoho host.
  • Pono e hoʻokaʻawale i ka Management a me ka iSCSI traffic ma nā loulou kino a / a i ʻole VLAN e pale i nā pilikia hana.
  • Pono nā helu IP o ka VMkernal a me nā awa pili o ka All Flash array i loko o ka subnet hoʻokahi, ma muli o nā pilikia hana.
  • No ka hōʻoia ʻana i ka hoʻomanawanui hewa e like me nā lula VMware, pono e loaʻa iā vSwitch ʻelua mau loulou kino
  • Inā hoʻohana ʻia nā Jumbo Frames, pono ʻoe e hoʻololi i ka MTU o vSwitch a me VMkernal
  • He mea pono e hoʻomanaʻo iā ʻoe e like me nā ʻōlelo aʻoaʻo VMware no nā mea hoʻololi kino e hoʻohana ʻia e hana pū me ka iSCSI traffic, pono ia e hoʻonohonoho i ka Teaming a me Failover. ʻO ka mea kūikawā, pono e hana kēlā me kēia VMkernal ma o hoʻokahi uplink, pono e hoʻololi ʻia ka uplink lua i ke ʻano hoʻohana ʻole. No ka hoʻomanawanui hewa, pono ʻoe e hoʻohui i ʻelua VMkernals, e hana kēlā me kēia me kāna uplink.

Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere

Mea hoʻopili VMkernel (vmk#)
Mea hoʻopili pūnaewele kino (vmnic#)

vmk1 (Storage01)
Nā mea hoʻopili hana
vmnic2
Nā mea hoʻopili i hoʻohana ʻole ʻia
vmnic3

vmk2 (Storage02)
Nā mea hoʻopili hana
vmnic3
Nā mea hoʻopili i hoʻohana ʻole ʻia
vmnic2

ʻAʻole koi ʻia nā ʻanuʻu mua e hoʻopili ai ma o Fiber Channel. Hiki iā ʻoe ke hana koke i kahi Datastore.

Ma hope o ka hoʻokumu ʻana i ka Datastore, pono ʻoe e hōʻoia e hoʻohana ʻia ke kulekele Round Robin no nā ala i ka Target/LUN ma ke ʻano he mea hoʻokō loa.

Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere

Ma ka maʻamau, hāʻawi nā hoʻonohonoho VMware no ka hoʻohana ʻana i kēia kulekele e like me ke kumumanaʻo: 1000 noi ma ke ala mua, nā noi 1000 aʻe ma ke ala ʻelua, etc. ʻAʻole kaulike kēlā mau pilina ma waena o ka mea hoʻokipa a me ka papa hoʻokele ʻelua. No laila, paipai mākou e hoʻonohonoho i ke kulekele Round Robin = 1 parameter ma o Esxcli/PowerCLI.

kiko'î

No Esxcli:

  • E papa inoa i nā LUN i loaʻa

esxcli waihona nmp papa inoa

  • E kope i ka inoa o ka mea hana
  • Hoʻololi i ke kulekele Round Robin

esxcli storage nmp psp roundrobin deviceconfig set —type=iops —iops=1 —device=“Device_ID”

Hoʻolālā ʻia ka hapa nui o nā noi hou e hoʻololi i nā ʻeke ʻikepili nui i mea e hoʻonui ai i ka hoʻohana ʻana i ka bandwidth a hōʻemi i ka ukana CPU. No laila, ESXi ma ka paʻamau pilikia I/O noi i ka waihona waihona i loko o chunks a hiki i 32767KB. Eia naʻe, no kekahi mau hiʻohiʻona, ʻoi aku ka maikaʻi o ka hoʻololi ʻana i nā ʻāpana liʻiliʻi. No nā kāʻei AccelStor, eia kēia mau hiʻohiʻona:

  • Hoʻohana ka mīkini virtual i ka UEFI ma kahi o ka Legacy BIOS
  • Hoʻohana i ka vSphere Replication

No ia mau hiʻohiʻona, makemake ʻia e hoʻololi i ka waiwai o ka ʻāpana Disk.DiskMaxIOSize i 4096.

Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere

No nā pili iSCSI, makemake ʻia e hoʻololi i ka hoʻohālikelike Login Timeout i ka 30 (default 5) e hoʻonui i ka paʻa pili a hoʻopau i ka lohi DelayedAck no ka hōʻoia ʻana i nā ʻeke i hoʻouna ʻia. Aia nā koho ʻelua ma vSphere Client: Host → Configure → Storage → Storage Adapters → Advanced Options for iSCSI adapter

Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere
Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere

ʻO kahi helu maʻalahi ka helu o nā puke i hoʻohana ʻia no ka waihona data. Ua maopopo no ka maʻalahi o ka hoʻokele, aia ka makemake e hana i hoʻokahi leo nui no ka leo holoʻokoʻa o ka array. Eia nō naʻe, ʻo ka loaʻa ʻana o kekahi mau puke a, no laila, he hopena maikaʻi ka datastore i ka hana holoʻokoʻa (ʻoi aku e pili ana i nā queues ma lalo). No laila, paipai mākou e hana i ʻelua mau puke.

A hiki i kēia manawa, ua ʻōlelo ʻo VMware e kaupalena i ka helu o nā mīkini virtual ma hoʻokahi hale kūʻai data, i mea e loaʻa ai ka hana kiʻekiʻe loa. Eia naʻe, i kēia manawa, ʻoi aku ka nui o ka hoʻolaha ʻana o VDI, ʻaʻole nui loa kēia pilikia. Akā ʻaʻole kēia e kāpae i ke kānāwai lōʻihi - e puʻunaue i nā mīkini virtual e koi ana i ka IO koʻikoʻi ma waena o nā waihona ʻikepili like ʻole. No ka hoʻoholo ʻana i ka helu maikaʻi loa o nā mīkini virtual i kēlā me kēia leo, ʻaʻohe mea maikaʻi aʻe hoʻāʻo hoʻouka o All Flash AccelStor array i loko o kāna mau hana.

Hoʻonohonoho i nā mīkini virtual

ʻAʻohe koi kūikawā i ka hoʻonohonoho ʻana i nā mīkini virtual, a i ʻole he mea maʻamau lākou:

  • Ke hoʻohana nei i ka mana VM kiʻekiʻe loa (hoʻohālikelike)
  • ʻOi aku ka akahele i ka hoʻonohonoho ʻana i ka nui o ka RAM i ka wā e hoʻokomo nui ai i nā mīkini virtual, no ka laʻana, ma VDI (no ka mea ma ke ʻano maʻamau, i ka hoʻomaka ʻana, ua hana ʻia kahi faila ʻaoʻao o ka nui e like me ka RAM, e hoʻopau ana i ka pono kūpono a loaʻa ka hopena ma luna. ka hana hope loa)
  • E hoʻohana i nā mana hoʻololi hoʻololi maikaʻi loa e pili ana i ka IO: ʻano pūnaewele VMXNET 3 a me SCSI ʻano PVSCSI
  • E hoʻohana i ka Thick Provision Eager Zeroed disk type no ka hana kiʻekiʻe a me ka Thin Provisioning no ka hoʻohana ʻana i ka nui o ka waiho ʻana.
  • Inā hiki, e kaupalena i ka hana ʻana o nā mīkini koʻikoʻi non-I/O me ka hoʻohana ʻana i ka Virtual Disk Limit
  • E ʻoluʻolu e hoʻokomo i nā mea hana VMware

Nā memo ma nā Queues

ʻO ka Queue (a i ʻole Outstanding I/Os) ka helu o nā noi komo/puka (mau kauoha SCSI) e kali nei no ka hana ʻana i kēlā me kēia manawa no kahi hāmeʻa/noi kikoʻī. I ka hihia o ka nui o ka queue, hoʻopuka ʻia nā hewa QFULL, ka hopena i ka hoʻonui ʻana i ka palena latency. Ke hoʻohana nei i nā ʻōnaehana mālama disk (spindle), ma ke ʻano, ʻoi aku ka kiʻekiʻe o ka queue, ʻoi aku ka kiʻekiʻe o kā lākou hana. Eia naʻe, ʻaʻole pono ʻoe e hōʻino iā ia, no ka mea he maʻalahi ke holo i QFULL. I ka hihia o nā ʻōnaehana Flash āpau, ma ka ʻaoʻao hoʻokahi, ʻoi aku ka maʻalahi o nā mea a pau: ma hope o nā mea a pau, he mau latencies ka nui o nā kauoha o ka nui a no laila, pinepine, ʻaʻohe pono e hoʻoponopono kaʻawale i ka nui o nā queues. Akā, ma kekahiʻaoʻao, i kekahi mau hoʻohana scenarios (ikaika skew i IO koi no kiko'ī virtual machines, ho'āʻo no ka maximum hana, etc.) pono, ina aole e hoololi i na palena o na queues, a laila ma ka liʻiliʻi loa e hoʻomaopopo i nā mea hōʻailona. hiki ke hoʻokō ʻia, a, ʻo ka mea nui ma nā ʻano hea.

Ma ka ʻaoʻao AccelStor All Flash ponoʻī ʻaʻohe palena e pili ana i nā puke a i ʻole nā ​​awa I/O. Inā pono, hiki i ka leo hoʻokahi ke loaʻa nā kumuwaiwai āpau o ka array. ʻO ka palena wale nō ma ka pila no nā pahuhopu iSCSI. ʻO ia ke kumu i hōʻike ʻia ma luna nei ka pono o ka hana ʻana i kekahi mau (ʻoi aku ka maikaʻi a hiki i nā ʻāpana 8) no kēlā me kēia leo e lanakila ai i kēia palena. E hoʻihoʻi hou mākou i nā ʻāpana AccelStor he hopena maikaʻi loa. No laila, pono ʻoe e hoʻohana i nā awa kikowaena āpau o ka ʻōnaehana e hoʻokō i ka wikiwiki kiʻekiʻe.

Ma ka ʻaoʻao hoʻokipa ESXi, ʻokoʻa loa ke kūlana. Hoʻohana ka mea hoʻokipa i ka hana o ka loaʻa like ʻana i nā kumuwaiwai no nā mea komo āpau. No laila, aia nā laina IO kaʻawale no ka OS malihini a me HBA. Hoʻohui ʻia nā queues i ka OS malihini mai nā queues i ka mea hoʻololi SCSI virtual a me ka disk virtual:

Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere

Aia ka pila i ka HBA i ke ʻano kikoʻī/mea kūʻai aku:

Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere

E hoʻoholo ʻia ka hana hope loa o ka mīkini virtual e ka palena ʻo Queue Depth haʻahaʻa loa ma waena o nā mea hoʻokipa.

Mahalo i kēia mau waiwai, hiki iā mākou ke loiloi i nā hōʻailona hana i hiki iā mākou ke loaʻa i kahi hoʻonohonoho. No ka laʻana, makemake mākou e ʻike i ka hana theoretical o kahi mīkini virtual (me ka ʻole o ka paʻa poloka) me ka latency o 0.5ms. A laila kona IOPS = (1,000/latency) * Kūlana I/Os (Ka palena hohonu o ka Queue)

examples

Eia kekahi laʻana 1

  • FC Emulex HBA Adapter
  • Hoʻokahi VM no ka hale kūʻai ʻikepili
  • VMware Paravirtual SCSI Adapter

Eia ka palena ʻo Queue Depth i hoʻoholo ʻia e Emulex HBA. No laila IOPS = (1000/0.5)*32 = 64K

Eia kekahi laʻana 2

  • VMware iSCSI Mea hoʻopili polokalamu
  • Hoʻokahi VM no ka hale kūʻai ʻikepili
  • VMware Paravirtual SCSI Adapter

Eia ka palena ʻo Queue Depth ua hoʻoholo ʻia e ka Paravirtual SCSI Adapter. No laila IOPS = (1000/0.5)*64 = 128K

Nā hiʻohiʻona kiʻekiʻe o All Flash AccelStor arrays (no ka laʻana, P710) hiki iā lākou ke hāʻawi i 700K IOPS kākau hana ma 4K poloka. Me ka nui o ka poloka, ʻike maopopo ʻia ʻaʻole hiki i kahi mīkini virtual hoʻokahi ke hoʻouka i kēlā ʻano. No ka hana ʻana i kēia, pono ʻoe i 11 (no ka laʻana 1) a i ʻole 6 (no ka laʻana 2) mau mīkini virtual.

ʻO ka hopena, me ka hoʻonohonoho kūpono o nā ʻāpana i wehewehe ʻia o kahi kikowaena data virtual, hiki iā ʻoe ke loaʻa nā hopena hoihoi loa i ka hana.

Manaʻo no ka hoʻonohonoho ʻana iā AFA AccelStor ke hana pū me VMware vSphere

4K Kakau, 70% Heluhelu/30% Kākau

ʻOiaʻiʻo, ʻoi aku ka paʻakikī o ka honua maoli ma mua o ka hiki ke wehewehe ʻia me kahi ʻano maʻalahi. Hoʻokipa mau kekahi mea hoʻokipa i nā mīkini virtual he nui me nā hoʻonohonoho like ʻole a me nā koi IO. A mālama ʻia ka ʻōnaehana I/O e ka mea hoʻokele host, nona ka mana ʻaʻole pau ʻole. No laila, e wehe i ka mana piha o ia Nā hiʻohiʻona P710 ʻoiaʻiʻo, pono ʻoe i ʻekolu mau pūʻali. Hoʻohui, hana nā noi e holo ana i loko o nā mīkini virtual i kā lākou hoʻoponopono ponoʻī. No laila, hāʻawi mākou no ka nui kūpono hoʻohana i ka hōʻoia ma nā hoʻohālike hoʻāʻo Nā pūʻulu Flash a pau AccelStor i loko o ka mea kūʻai aku i nā hana maoli o kēia manawa.

Source: www.habr.com

Pākuʻi i ka manaʻo hoʻopuka