I ka manawa hea mākou e hoʻāʻo ai i ke kuhiakau haʻahaʻa ʻole?

I ka manawa hea mākou e hoʻāʻo ai i ke kuhiakau haʻahaʻa ʻole?
Manaʻo kekahi ʻatikala mai ka hui Stitch Fix i ka hoʻohana ʻana i nā hoʻokolohua non-inferiority i ke kūʻai aku a me nā hoʻāʻo A/B huahana. Pili maoli kēia ala i ka wā e hoʻāʻo ai mākou i kahi hopena hou i loaʻa nā pōmaikaʻi ʻaʻole i ana ʻia e nā hoʻokolohua.

ʻO ka laʻana maʻalahi ka hoʻemi ʻana i ke kumukūʻai. No ka laʻana, hoʻokaʻawale mākou i ke kaʻina o ka hāʻawi ʻana i ka haʻawina mua, akā ʻaʻole makemake mākou e hōʻemi nui i ka hoʻololi ʻana i ka hopena i ka hopena. A i ʻole e hoʻāʻo mākou i nā loli i kuhikuhi ʻia i hoʻokahi ʻāpana o nā mea hoʻohana, ʻoiai e hōʻoia ana ʻaʻole e hāʻule nui ka hoʻololi ʻana no nā ʻāpana ʻē aʻe (i ka wā e hoʻāʻo ai i kekahi mau hypotheses, mai poina e pili ana i nā hoʻololi).

ʻO ke koho ʻana i ka palena palena ʻole kūpono e hoʻohui i nā pilikia hou i ka wā o ka hoʻolālā hoʻāʻo. ʻAʻole i uhi maikaʻi ʻia ka nīnau pehea e koho ai i ka Δ ma ka ʻatikala. Me he mea lā ʻaʻole maopopo loa kēia koho i nā hoʻokolohua lapaʻau. Hōʻuluʻulu manaʻo ʻO nā puke lapaʻau e pili ana i ka hōʻike haʻahaʻa ʻole he hapalua wale nō o nā puke e hōʻoiaʻiʻo i ke koho ʻana i ka palena, a ʻo ka pinepine o kēia mau hōʻoia ʻana he ambiguous a ʻaʻole kikoʻī.

Ma kekahi hihia, ʻano hoihoi kēia ala no ka mea... ma ka ho'ēmiʻana i ka nui hāpana koi, hiki ke hoʻonui i ka wikiwiki o ka ho'āʻo, a, no laila, ka wikiwiki o ka hoʻoholoʻana. — ʻO Daria Mukhina, ka mea loiloi huahana no ka polokalamu kelepona ʻo Skyeng.

Makemake ka hui Stitch Fix e ho'āʻo i nā mea like ʻole. Makemake ke kaiaulu ʻenehana holoʻokoʻa e holo i nā hoʻokolohua ma ke kumu. ʻO wai ka mana o ka pūnaewele e hoʻohana hou aku i nā mea hoʻohana - A a i ʻole B? ʻOi aku ka nui o ke kālā ma mua o ka mana B? No ka hoʻāʻo ʻana i nā kuhiakau, aneane mākou e hoʻohana i ke ala maʻalahi loa mai ka papa helu kumu:

I ka manawa hea mākou e hoʻāʻo ai i ke kuhiakau haʻahaʻa ʻole?

ʻOiai ʻaʻole mākou e hoʻohana i ka huaʻōlelo, ua kapa ʻia kēia ʻano o ka hoʻāʻo ʻana he "superiority hypothesis testing." Me kēia ala, manaʻo mākou ʻaʻohe ʻokoʻa ma waena o nā koho ʻelua. Hoʻopili mākou i kēia manaʻo a haʻalele wale iā ia inā ikaika ka ʻikepili e hana pēlā - ʻo ia hoʻi, e hōʻike ana i kahi o nā koho (A a i ʻole B) ʻoi aku ka maikaʻi ma mua o kekahi.

He kūpono ka hoʻāʻo ʻana i ke kuhiakau kiʻekiʻe no nā pilikia like ʻole. Hoʻokuʻu wale mākou i ka mana B o kahi hoʻohālike manaʻo inā ʻoi aku ka maikaʻi ma mua o ka mana A i hoʻohana ʻia. E nānā kākou i kekahi mau laʻana.

1) Hoʻohana mākou i kahi lawelawe ʻaoʻao ʻekolu, e kōkua ana e ʻike i nā kāleka panakō hoʻopunipuni. Ua loaʻa iā mākou kahi lawelawe ʻē aʻe i emi loa ke kumukūʻai. Inā hana ka lawelawe ʻoi aku ka maikaʻi e like me ka mea a mākou e hoʻohana nei i kēia manawa, e koho mākou. ʻAʻole pono e ʻoi aku ka maikaʻi ma mua o ka lawelawe āu e hoʻohana nei.

2) Makemake mākou e haʻalele i ke kumu ʻikepili A a hoʻololi iā ia me ke kumu ʻikepili B. Hiki iā mākou ke hoʻopaneʻe i ka haʻalele ʻana iā A inā he hopena maikaʻi ʻole ʻo B, akā ʻaʻole hiki ke hoʻomau i ka hoʻohana ʻana iā A.

3) Makemake mākou e neʻe mai kahi ʻano hoʻohālikeʻAʻole ka hoʻokokoke ʻana o A i B no ka mea ke manaʻo nei mākou i nā hopena maikaʻi aʻe mai B, akā no ka hāʻawi ʻana iā mākou i ka maʻalahi o ka hana. ʻAʻohe kumu e manaʻoʻiʻo ai e ʻoi aku ka hewa o B, akā ʻaʻole mākou e hana i ka hoʻololi inā ʻo ia ka hihia.

4) Ua hana mākou i kekahi mau hoʻololi qualitative i loko o ka hoʻolālā punaewele (version B) a manaʻoʻiʻo ua ʻoi aku kēia mana ma mua o ka mana A. ʻAʻole mākou e manaʻo i nā loli i ka hoʻololi ʻana a i ʻole kekahi o nā hōʻailona hana nui e loiloi pinepine ai mākou i kahi pūnaewele. Akā ke manaʻoʻiʻo nei mākou aia nā pōmaikaʻi i nā ʻāpana i hiki ʻole ke ana a ʻaʻole lawa kā mākou ʻenehana.

I kēia mau hihia a pau, ʻaʻole ʻo ka noiʻi kiʻekiʻe ka hopena kūpono loa. Akā ʻo ka hapa nui o nā loea i ia mau kūlana e hoʻohana iā ia ma ke ʻano maʻamau. Mālama mākou i ka hoʻokolohua e hoʻoholo pono i ka nui o ka hopena. Inā he ʻoiaʻiʻo ka hana ʻana o nā mana A a me B ma nā ʻano like loa, aia kahi manawa e hōʻole ʻole ai mākou i ke kuhiakau null. Manaʻo mākou he hana like ʻo A a me B? ʻAʻole! ʻO ka hōʻole ʻole i ke kuhiakau null a me ka ʻae ʻana i ke kuhiakau null ʻaʻole like ia.

ʻO nā helu helu nui (ʻo ia, ʻoiaʻiʻo, ua hana ʻoe) hana maʻamau me nā palena ʻoi aku ka paʻa o ka hewa Type I (ʻo ka hiki ʻole ke hōʻole i ke kuhiakau null, i kapa pinepine ʻia ʻo alpha) ma mua o ka hewa Type II (ke kūpono o ka hiki ʻole ke hana. hōʻole i ke kuhiakau null, hāʻawi ʻia ke ʻano he wahaheʻe ke kuhiakau null, i kapa pinepine ʻia he beta). ʻO ka waiwai maʻamau no ka alpha he 0,05, aʻo ka waiwai maʻamau no ka beta he 0,20, pili i ka mana helu o 0,80. ʻO ia ke ʻano he 20% ka manawa e poina ai mākou i ka hopena maoli o ka nui a mākou i kuhikuhi ai i kā mākou helu mana, a he ʻano koʻikoʻi loa ia o ka ʻike. No ka laʻana, e noʻonoʻo kākou i kēia mau kuhiakau:

I ka manawa hea mākou e hoʻāʻo ai i ke kuhiakau haʻahaʻa ʻole?

H0: ʻAʻole koʻu ʻeke ʻeke i loko o koʻu lumi (3)
H1: Aia koʻu ʻeke ʻeke i koʻu lumi (4)

Inā ʻimi au i koʻu lumi a loaʻa kaʻu ʻeke ʻeke, maikaʻi, hiki iaʻu ke hōʻole i ke kuhiakau null. Akā inā nānā au a puni ka lumi a ʻaʻole hiki iaʻu ke ʻike i kaʻu ʻeke ʻeke (Figure 1), he aha kaʻu hopena e huki ai? Ua maopopo iaʻu ʻaʻole ia ma laila? Ua nānā paʻakikī anei au? He aha inā ʻimi wale au i 80% o ka lumi? ʻO ka hoʻoholo ʻana ʻaʻole i loko o ka lumi ka ʻeke ʻeke he hoʻoholo wikiwiki. ʻAʻohe mea kupanaha ʻaʻole hiki iā mākou ke "ʻae i ke kuhiakau null."
I ka manawa hea mākou e hoʻāʻo ai i ke kuhiakau haʻahaʻa ʻole?
ʻO kahi a mākou i ʻimi ai
ʻAʻole i loaʻa iā mākou ka ʻeke ʻeke - pono anei mākou e ʻae i ke kuhiakau null?

Kiʻi 1: ʻO ka huli ʻana i 80% o kahi lumi e like me ka huli ʻana ma 80% mana. Inā ʻaʻole ʻoe e ʻike i ka ʻeke ʻeke ma hope o ka nānā ʻana i ka 80% o ka lumi, hiki iā ʻoe ke manaʻo ʻaʻole ia ma laila?

No laila he aha ka mea e hana ai kahi ʻepekema data i kēia kūlana? Hiki iā ʻoe ke hoʻonui nui i ka mana o ke aʻo ʻana, akā pono ʻoe i kahi laʻana nui loa a ʻaʻole ʻoluʻolu ka hopena.

ʻO ka mea pōmaikaʻi, ua aʻo ʻia ia mau pilikia i ka honua o ka noiʻi lapaʻau. ʻOi aku ka maʻalahi o ka lāʻau B ma mua o ka lāʻau A; Manaʻo ʻia ʻo ka lāʻau B e liʻiliʻi nā hopena ʻaoʻao ma mua o ka lāʻau A; ʻOi aku ka maʻalahi o ka lawe ʻana i ka lāʻau B no ka mea ʻaʻole pono e hoʻopaʻa ʻia i ka pahu hau, akā ʻo ka lāʻau A. E hoʻāʻo kākou i ke kuhiakau o ka haʻahaʻa ʻole. E hōʻike kēia i ka maikaʻi o ka mana B e like me ka mana A—ma ka liʻiliʻi loa i loko o kahi palena palena ʻole i koho mua ʻia, Δ. E kamaʻilio hou mākou e pili ana i ka hoʻonohonoho ʻana i kēia palena ma hope iki. Akā i kēia manawa, e manaʻo kākou ʻo ia ka ʻokoʻa liʻiliʻi loa e pili ana i ka manaʻo (ma ka pōʻaiapili o nā hoʻokolohua lapaʻau, kapa ʻia kēia ʻano koʻikoʻi clinical).

Hoʻololi nā kuhiakau non-inferiority i nā mea a pau ma luna o kona poʻo:

I ka manawa hea mākou e hoʻāʻo ai i ke kuhiakau haʻahaʻa ʻole?

I kēia manawa, ma kahi o ka manaʻo ʻaʻohe ʻokoʻa, e manaʻo mākou ʻoi aku ka hewa o ka mana B ma mua o ka mana A, a e hoʻomau mākou me kēia manaʻo a hiki i ka hōʻike ʻana ʻaʻole kēia ka hihia. ʻO kēia ka manawa kūpono e hoʻohana ai i ka hoʻāʻo kuhiakau ʻaoʻao hoʻokahi! Ma ka hoʻomaʻamaʻa, hiki ke hana i kēia ma ke kūkulu ʻana i kahi wā hilinaʻi a hoʻoholo inā ʻoi aku ka nui o ka wā ma mua o Δ (Figure 2).
I ka manawa hea mākou e hoʻāʻo ai i ke kuhiakau haʻahaʻa ʻole?

E koho i ka Δ

Pehea e koho ai i ka Δ pono? Aia i loko o ke ka'ina koho Δ ka ho'āpono helu helu a me ka loiloi waiwai. Ma ka honua o ka noiʻi lāʻau lapaʻau, aia nā alakaʻi hoʻoponopono e kuhikuhi ana i ka delta e hōʻike i ka ʻokoʻa liʻiliʻi liʻiliʻi loa - kahi e hoʻololi ai i ka hana. Eia kahi ʻōlelo mai nā alakaʻi ʻEulopa e hoʻāʻo iā ʻoe iho me: “Inā i koho pololei ʻia ka ʻokoʻa, ʻo ka manawa hilinaʻi e waiho piha ana ma waena o –∆ a me 0… lawa nō e hōʻike i ka haʻahaʻa ʻole. Inā ʻaʻole ʻae ʻia kēia hopena, ʻo ia hoʻi, ʻaʻole i koho pono ʻia ʻo ∆.

ʻAʻole pono ka delta ma mua o ka nui o ka hopena o ka mana A e pili ana i ka mana maoli (placebo/no treatment), no ka mea e alakaʻi kēia iā mākou e ʻōlelo ʻoi aku ka hewa o ka mana B ma mua o ka mana maoli, ʻoiai i ka manawa like e hōʻike ana i ka "non-inferiority. .” E manaʻo kākou i ka wā i hoʻokomo ʻia ai ka mana A, ua hoʻololi ʻia e ka mana 0 a i ʻole ʻaʻole i loaʻa ka hiʻona (e nānā i ke Kiʻi 3).

Ma muli o nā hopena o ka hoʻāʻo ʻana i ke kuhiakau kiʻekiʻe, ua hōʻike ʻia ka nui o ka hopena E (ʻo ia hoʻi, μ^A−μ^0=E). I kēia manawa ʻo A ko mākou kūlana hou, a makemake mākou e hōʻoia i ka maikaʻi o B e like me A. ʻO kekahi ala e kākau ai i ka μB−μA≤−Δ (null hypothesis) ʻo μB≤μA−Δ. Inā manaʻo mākou ua like a ʻoi aku paha ka hana ma mua o E, a laila μB ≤ μA−E ≤ placebo. I kēia manawa, ʻike mākou ua ʻoi aku kā mākou koho no μB ma mua o μA−E, a laila hōʻole loa i ke kuhiakau null a hiki iā mākou ke hoʻoholo i ka maikaʻi o B me A, akā i ka manawa like ʻo μB paha ≤ μ placebo, ʻaʻole ia ka hihia, he aha kā mākou e pono ai. (Kiʻi 3).

I ka manawa hea mākou e hoʻāʻo ai i ke kuhiakau haʻahaʻa ʻole?
Kiʻi 3. Hōʻike i nā pilikia o ke koho ʻana i kahi palena palena ʻole. Inā kiʻekiʻe loa ka ʻoki ʻoki, hiki ke hoʻoholo ʻia ʻaʻole i emi ʻo B ma mua o A, akā i ka manawa like ʻaʻole hiki ke ʻike ʻia mai kahi placebo. ʻAʻole mākou e hoʻololi i kahi lāʻau i ʻoi aku ka maikaʻi ma mua o ka placebo (A) no kahi lāʻau lapaʻau e like me ka placebo.

Koho o α

E neʻe kākou i ke koho ʻana iā α. Hiki iā ʻoe ke hoʻohana i ka waiwai maʻamau α = 0,05, akā ʻaʻole pololei kēia. E like me, no ka laʻana, ke kūʻai aku ʻoe i kahi mea ma ka pūnaewele a hoʻohana i nā code hoʻemi i ka manawa hoʻokahi, ʻoiai ʻaʻole pono e hui pū ʻia - ua hana hewa wale ka mea hoʻomohala, a ua pakele ʻoe. E like me nā lula, pono e like ka waiwai o ka α me ka hapalua o ka waiwai o ka α i hoʻohana ʻia i ka hoʻāʻo ʻana i ke kuhiakau kiʻekiʻe, ʻo ia hoʻi, 0,05 / 2 = 0,025.

Laʻana nui

Pehea e koho ai i ka nui o ka laʻana? Inā manaʻo ʻoe he 0 ka ʻokoʻa ʻoiaʻiʻo ma waena o A a me B, a laila ua like ka helu ʻana i ka nui me ka hoʻāʻo ʻana i ke kuhiakau kūlana kiʻekiʻe, koe wale nō ke hoʻololi ʻoe i ka nui hopena me ka palena noninferiority, inā ʻoe e hoʻohana. αʻaʻole haʻahaʻa maikaʻi = 1/2αsuperiority (αʻaʻole haʻahaʻa=1/2αkiʻekiʻe). Inā he kumu kou e manaʻoʻiʻo ai ua ʻoi aku ka hewa o ka koho B ma mua o ke koho A, akā makemake ʻoe e hōʻoia i ka ʻoi aku o ka hewa ma mua o ka Δ, a laila ua laki ʻoe! Hoʻemi maoli kēia i kāu laʻana nui no ka mea ʻoi aku ka maʻalahi o ka hōʻike ʻana he ʻoi aku ka maikaʻi o ka B ma mua o A inā manaʻo ʻoe he ʻoi aku ka ʻino ma mua o ka like.

Laʻana me ka hoʻonā

E ʻōlelo mākou makemake ʻoe e hoʻomaikaʻi i ka mana B, inā ʻaʻole i ʻoi aku ma mua o 0,1 helu ʻoi aku ka maikaʻi ma mua o ka mana A ma kahi pālākiō ʻoluʻolu o ka mea kūʻai aku 5…

No ka ho'āʻoʻana i ke kuhiakau kūlana kiʻekiʻe, e helu mākou i ka nui o ka laʻana penei:

I ka manawa hea mākou e hoʻāʻo ai i ke kuhiakau haʻahaʻa ʻole?

ʻO ia hoʻi, inā loaʻa iā ʻoe nā ʻike 2103 i kāu hui, hiki iā ʻoe ke hilinaʻi 90% e ʻike ʻoe i ka nui o ka hopena o 0,10 a i ʻole ka nui. Akā inā kiʻekiʻe loa ka 0,10 iā ʻoe, ʻaʻole pono ia e hoʻāʻo i ke kuhiakau kiʻekiʻe no. No ka ʻaoʻao palekana, hiki iā ʻoe ke hoʻoholo e holo i ke aʻo ʻana no ka liʻiliʻi o ka hopena, e like me 0,05. I kēia hihia, pono ʻoe i 8407 nānā, ʻo ia hoʻi, e hoʻonui ʻia ka hāpana ma kahi o 4 mau manawa. Akā pehea inā pili mākou i kā mākou kumu hoʻohālike nui, akā hoʻonui i ka mana i 0,99 i mea e palekana ai inā loaʻa iā mākou kahi hopena maikaʻi? I kēia hihia, n no ka hui hoʻokahi he 3676, ʻoi aku ka maikaʻi, akā hoʻonui ka nui o ka hāpana ma mua o 50%. A ʻo ka hopena, ʻaʻole hiki iā mākou ke hōʻole i ke kuhiakau null, a ʻaʻole e loaʻa iā mākou kahi pane i kā mākou nīnau.

He aha inā inā hoʻāʻo mākou i ke kuhiakau noinferiority ma kahi?

I ka manawa hea mākou e hoʻāʻo ai i ke kuhiakau haʻahaʻa ʻole?

E helu ʻia ka nui o ka laʻana me ka hoʻohana ʻana i ke ʻano like koe wale nō ka denominator.
ʻO nā ʻokoʻa mai ke kumu hoʻohālike i hoʻohana ʻia no ka hoʻāʻo ʻana i ke kuhiakau kūlana kiʻekiʻe penei:

— Hoʻololi ʻia ʻo Z1−α/2 e Z1−α, akā inā hana ʻoe i nā mea āpau e like me nā lula, hoʻololi ʻoe iā α = 0,05 me α = 0,025, ʻo ia hoʻi, ʻo ia ka helu like (1,96)

— (μB−μA) ʻike ʻia i ka denominator

- Ua pani ʻia ʻo θ (ka nui o ka hopena) e Δ (ka palena o ka haʻahaʻa ʻole)

Inā manaʻo mākou ʻo µB = µA, a laila (µB − µA) = 0 a ʻo ka helu ʻana i ka nui o ka hōʻailona no ka palena noinferiority ʻo ia ka mea e loaʻa iā mākou inā helu mākou i ke kiʻekiʻe no ka nui o ka hopena o 0,1, maikaʻi! Hiki iā mākou ke hana i kahi noiʻi o ka nui like me nā kuhiakau like ʻole a me kahi ala ʻē aʻe i ka hopena, a e loaʻa iā mākou ka pane i ka nīnau a mākou e makemake maoli ai e pane.

I kēia manawa ʻaʻole mākou i manaʻo maoli ʻo µB = µA a
Manaʻo mākou ua ʻoi aku ka ʻino o ka µB, ma ka 0,01 mau ʻāpana paha. Hoʻonui kēia i kā mākou denominator, e hōʻemi ana i ka nui o ka laʻana i kēlā me kēia hui i 1737.

He aha ka hopena inā ʻoi aku ka maikaʻi o ka mana B ma mua o ka mana A? Hōʻole mākou i ke kuhiakau null ʻoi aku ka hewa ma mua o A ma mua o ka Δ a e ʻae i ke kuhiakau ʻokoʻa ʻo B, inā ʻoi aku ka hewa, ʻaʻole i ʻoi aku ka ʻino ma mua o A ma Δ a ʻoi aku paha ka maikaʻi. E ho'āʻo e hoʻokomo i kēia hopena i kahi hōʻike cross-functional a ʻike i ka mea e hiki mai ana (koʻikoʻi, e hoʻāʻo). Ma kahi kūlana i mua, ʻaʻohe mea makemake e hoʻoholo no ka "ʻaʻole ʻoi aku ma mua o Δ ʻoi aku ka maikaʻi a ʻoi aku paha."

I kēia hihia, hiki iā mākou ke alakaʻi i kahi haʻawina, i kapa ʻia he pōkole loa "e hoʻāʻo ana i ke kuhiakau e ʻoi aku ka maikaʻi o kekahi o nā koho ma mua o kekahi." Hoʻohana ia i ʻelua mau manaʻo kuhiakau:

Hoʻonohonoho mua (e like me ka hoʻāʻo ʻana i ke kuhiakau haʻahaʻa ʻole):

I ka manawa hea mākou e hoʻāʻo ai i ke kuhiakau haʻahaʻa ʻole?

Hoʻonohonoho ʻelua (e like me ka hoʻāʻo ʻana i ke kuhiakau kūlana kiʻekiʻe):

I ka manawa hea mākou e hoʻāʻo ai i ke kuhiakau haʻahaʻa ʻole?

Hoʻāʻo mākou i ka kuhiakau lua inā hōʻole ʻia ka mea mua. I ka hoʻāʻo ʻana ma ke ʻano, mālama mākou i ka nui o ka helu hewa Type I (α). Ma ka hoʻomaʻamaʻa, hiki ke hoʻokō ʻia kēia ma ka hana ʻana i kahi manawa hilinaʻi 95% no ka ʻokoʻa ma waena o nā ala a me ka hoʻāʻo ʻana e hoʻoholo ai inā ʻoi aku ka nui o ka wā holoʻokoʻa ma mua o -Δ. Inā ʻaʻole i ʻoi aku ka manawa ma mua o -Δ, ʻaʻole hiki iā mākou ke hōʻole i ka waiwai null a hoʻōki. Inā ʻoi aku ka nui o ka wā holoʻokoʻa ma mua o −Δ, e hoʻomau mākou a ʻike inā he 0 ka waena.

Aia kekahi ʻano noiʻi ʻaʻole mākou i kūkākūkā - nā haʻawina kaulike.

Hiki ke pani ʻia kēia mau ʻano haʻawina e nā haʻawina noninferiority a me ka hope, akā he ʻokoʻa koʻikoʻi ko lākou. ʻO ka hoʻāʻo haʻahaʻa haʻahaʻa ka manaʻo e hōʻike i ka maikaʻi o ka koho B e like me ka maikaʻi o A. ʻO ka hoʻāʻo like ʻana e hōʻike i ka maikaʻi o ka koho B me A. ʻO ke koho A ua like ka maikaʻi me B, ʻoi aku ka paʻakikī. ʻO ka mea nui, ke hoʻāʻo nei mākou e hoʻoholo inā aia ka manawa hilinaʻi holoʻokoʻa no ka ʻokoʻa o ke ʻano ma waena o −Δ a me Δ. Pono ia mau noiʻi i ka nui o ka laʻana a ʻoi aku ka liʻiliʻi o ka hana ʻana. No laila, i ka manawa aʻe e hana ai ʻoe i kahi haʻawina i kāu pahuhopu nui e hōʻoia ʻaʻole ʻoi aku ka maikaʻi o ka mana hou, mai noho ʻoe no ka "hōʻole ʻole i ke kuhiakau null." Inā makemake ʻoe e hoʻāʻo i kahi kuhiakau koʻikoʻi, e noʻonoʻo i nā koho like ʻole.

Source: www.habr.com

Pākuʻi i ka manaʻo hoʻopuka