Game da Bias Sirrin Hannun Mutum

tl; dr:

• Koyon inji yana neman tsari a cikin bayanai. Amma basirar wucin gadi na iya zama "ƙauna" - wato, nemo tsarin da ba daidai ba. Misali, tsarin gano kansar fata na tushen hoto na iya ba da kulawa ta musamman ga hotunan da aka ɗauka a ofishin likita. Koyon inji ba zai iya ba fahimta: Algorithms ɗin sa kawai suna gano alamu a cikin lambobi, kuma idan bayanan ba wakilci bane, haka sakamakon sarrafa shi. Kuma kama irin waɗannan kurakuran na iya zama da wahala saboda ainihin injiniyoyi na koyon injin.
• Mafi bayyananne kuma yanki mai ban tsoro shine bambancin ɗan adam. Akwai dalilai da yawa da ya sa bayanai game da mutane na iya rasa haƙiƙa ko da a matakin tarin. Amma kada kuyi tunanin cewa wannan matsalar tana shafar mutane ne kawai: daidai wahalhalun da ke tasowa yayin ƙoƙarin gano ambaliya a cikin sito ko gazawar injin turbin gas. Wasu tsarin na iya kasancewa da son zuciya ga launin fata, wasu kuma za su kasance da son zuciya ga na'urorin firikwensin Siemens.
• Irin waɗannan matsalolin ba sabon abu ba ne ga koyon injin, kuma ba su da nisa da su. Ana yin zato mara kyau a kowane tsari mai rikitarwa, kuma fahimtar dalilin da yasa aka yanke wani takamaiman shawara koyaushe yana da wahala. Muna buƙatar yaƙar wannan ta hanya mai mahimmanci: ƙirƙirar kayan aiki da matakai don tabbatarwa - da ilmantar da masu amfani don kada su bi shawarwarin AI a makance. Koyon inji yana yin wasu abubuwa fiye da yadda za mu iya - amma karnuka, alal misali, sun fi mutane tasiri sosai wajen gano kwayoyi, wanda ba dalili ba ne don amfani da su a matsayin shaida da yanke hukunci bisa ga shaidarsu. Kuma karnuka, a hanya, sun fi kowane tsarin koyon injin.

Koyon inji yana ɗaya daga cikin mahimman abubuwan fasaha na yau da kullun. Wannan yana daya daga cikin manyan hanyoyin da fasaha za ta canza duniya da ke kewaye da mu a cikin shekaru goma masu zuwa. Wasu sassa na waɗannan canje-canje suna haifar da damuwa. Misali, yuwuwar tasirin koyon na'ura akan kasuwar kwadago, ko amfani da shi don dalilai marasa da'a (misali, ta gwamnatocin kama-karya). Akwai wata matsala da wannan post ɗin ke magancewa: son zuciya na wucin gadi.

Wannan ba labari bane mai sauki.

Google's AI na iya samun kuliyoyi. Wannan labari daga 2012 wani abu ne na musamman a wancan lokacin.

Menene "AI Bias"?

"Raw data" duka oxymoron ne kuma mummunan ra'ayi; dole ne a shirya bayanai da kyau kuma a hankali. - Geoffrey Boker

Wani wuri kafin 2013, don yin tsarin da, a ce, gane cats a cikin hotuna, dole ne ku bayyana matakai masu ma'ana. Yadda za a nemo sasanninta a cikin hoto, gane idanu, nazarin laushi don Jawo, ƙidaya tafukan hannu, da sauransu. Sa'an nan kuma haɗa dukkan abubuwan da aka gyara kuma gano cewa ba ya aiki da gaske. Da yawa kamar doki na inji - a ka'idar ana iya yin shi, amma a aikace yana da wuyar siffantawa. Sakamakon ƙarshe shine ɗaruruwan (ko ma dubbai) na dokokin da aka rubuta da hannu. Kuma ba samfurin aiki ɗaya ba.

Da zuwan koyon inji, mun daina amfani da dokokin "manual" don gane wani abu. Maimakon haka, muna ɗaukar samfurori dubu na "wannan", X, samfurori dubu na "wasu", Y, kuma mu sa kwamfutar ta gina samfurin bisa ga ƙididdigar ƙididdiga. Sa'an nan kuma mu ba wannan samfurin wasu bayanan samfurin kuma yana ƙayyade tare da wasu daidai ko ya dace da ɗaya daga cikin saitin. Koyon inji yana haifar da samfuri daga bayanai maimakon daga ɗan adam ya rubuta ta. Sakamakon yana da ban sha'awa, musamman a fagen tantance hoto da ƙirar ƙira, kuma shine dalilin da ya sa gabaɗayan masana'antar fasaha ke motsawa zuwa koyon injin (ML).

Amma ba haka ba ne mai sauki. A cikin duniyar gaske, dubban misalan ku na X ko Y suma sun ƙunshi A, B, J, L, O, R, har ma da L. Waɗannan ƙila ba za a rarraba su daidai gwargwado ba, wasu kuma na iya faruwa akai-akai ta yadda tsarin zai biya ƙarin. kula da su fiye da abubuwan da suke sha'awar ku.

Menene wannan ke nufi a aikace? Misali na fi so shine lokacin tsarin tantance hoto dubi wani tudu mai ciyawa ka ce, "tumaki". Ya bayyana a fili dalilin da ya sa: yawancin hotuna na "tuma" ana daukar su a cikin makiyaya inda suke zaune, kuma a cikin waɗannan hotuna ciyawa tana ɗaukar sararin samaniya fiye da ƙananan fararen fata, kuma shine ciyawa wanda tsarin ya ɗauki mafi mahimmanci. .

Akwai wasu misalai masu tsanani. Daya kwanan nan aikin don gano kansar fata a cikin hotuna. Ya juya cewa masu ilimin fata sukan dauki hoton mai mulki tare da bayyanar cututtuka na fata don yin rikodin girman abubuwan da aka samo. Babu masu mulki a cikin misalin hotunan fata lafiya. Don tsarin AI, irin waɗannan masu mulki (mafi daidai, pixels da muka ayyana a matsayin "mai mulki") sun zama ɗaya daga cikin bambance-bambance tsakanin misalan misalai, kuma wani lokacin sun fi mahimmanci fiye da ƙananan raƙuman fata. Don haka tsarin da aka kirkira don gano kansar fata wani lokaci ana gane masu mulki maimakon.

Babban abin lura anan shine tsarin ba shi da fahimtar ma’anar abin da yake kallo. Muna kallon saitin pixels kuma mu ga tumaki, fata ko masu mulki a cikinsu, amma tsarin layin lamba ne kawai. Ba ta ganin sarari mai girma uku, ba ta ganin abubuwa, laushi, ko tumaki. Kawai ta ga alamu a cikin bayanan.

Wahalar gano irin waɗannan matsalolin ita ce hanyar sadarwa ta jijiyoyi (samfurin da tsarin koyon injin ku ya samar) ya ƙunshi dubban ɗaruruwan dubunnan nodes. Babu wata hanya mai sauƙi don duba samfurin kuma duba yadda yake yanke shawara. Samun irin wannan hanya yana nufin cewa tsari yana da sauƙi don kwatanta duk dokoki da hannu, ba tare da yin amfani da na'ura ba. Mutane suna damuwa cewa koyon injin ya zama wani abu na akwatin baki. (Zan bayyana kadan daga baya dalilin da yasa wannan kwatancen ya yi yawa.)

Wannan, a cikin sharuddan gabaɗaya, shine matsalar son zuciya a cikin basirar wucin gadi ko na'ura: tsarin gano alamu a cikin bayanai na iya samun alamu mara kyau, kuma ƙila ba za ku lura ba. Wannan sifa ce ta asali na fasaha, kuma a bayyane yake ga duk wanda ke aiki tare da ita a fannin ilimi da kuma manyan kamfanonin fasaha. Amma sakamakonsa yana da sarkakiya, haka nan ma hanyoyin da za mu iya magance wadannan sakamakon.

Bari mu fara magana game da sakamakon.

AI na iya, a fakaice a gare mu, yin zaɓi don yarda da wasu nau'ikan mutane, dangane da adadi mai yawa na sigina marasa fahimta.

AI Bias Scenarios

Mafi a bayyane kuma mai ban tsoro, wannan matsala na iya bayyana kanta idan ta zo ga bambancin ɗan adam. Kwanan nan akwai jita-jitacewa Amazon yayi ƙoƙarin gina tsarin koyo na inji don tantancewar farko na masu neman aiki. Tun da akwai ƙarin maza a cikin ma'aikatan Amazon, misalan "aiki mai nasara" suma sun fi yawan maza, kuma akwai ƙarin maza a cikin zaɓin sake dawowa da tsarin ya ba da shawara. Amazon ya lura da wannan kuma bai saki tsarin a cikin samarwa ba.

Abu mafi mahimmanci a cikin wannan misali shi ne cewa tsarin ya kasance ana jita-jita don nuna goyon baya ga maza masu neman izini, duk da cewa ba a ƙayyade jinsi a kan ci gaba ba. Tsarin ya ga wasu alamu a cikin misalan "kyakkyawan haya": alal misali, mata na iya amfani da kalmomi na musamman don bayyana nasarori, ko kuma suna da abubuwan sha'awa na musamman. Tabbas, tsarin bai san abin da "hockey" yake ba, ko kuma wanene "mutane", ko menene "nasara" - kawai an gudanar da bincike na kididdiga na rubutun. Amma irin salon da ta gani ba zai iya yiwuwa mutane su lura da su ba, wasu kuma (misali, kasancewar masu jinsi daban-daban suna kwatanta nasara daban) zai yi wuya mu iya gani ko da mun kalle su.

Ƙari - mafi muni. Tsarin koyon injin da ke da kyau sosai wajen gano ciwon daji a fatar fata ba zai iya yin aiki sosai akan duhun fata ba, ko akasin haka. Ba dole ba ne saboda son zuciya, amma saboda tabbas kuna buƙatar gina samfurin daban don launi daban-daban na fata, zabar halaye daban-daban. Tsarin koyan inji ba sa musanya ko da a cikin kunkuntar wuri kamar gane hoto. Kuna buƙatar tweak tsarin, wani lokacin kawai ta hanyar gwaji da kuskure, don samun kyakkyawan aiki akan fasalulluka a cikin bayanan da kuke sha'awar har sai kun cimma daidaiton da kuke so. Amma abin da ba za ku iya lura da shi ba shine cewa tsarin daidai yake da 98% na lokaci tare da rukuni ɗaya, kuma kawai 91% (har ma mafi daidai fiye da nazarin ɗan adam) tare da ɗayan.

Ya zuwa yanzu na yi amfani da misalai da yawa da suka shafi mutane da halayensu. Tattaunawar da ke tattare da wannan matsala ta fi mayar da hankali kan wannan batu. Amma yana da mahimmanci a fahimci cewa son zuciya ga mutane wani bangare ne kawai na matsalar. Za mu yi amfani da koyan na'ura don abubuwa da yawa, kuma kuskuren samfur zai dace da su duka. A gefe guda, idan kuna aiki tare da mutane, ƙila a cikin bayanan ba su da alaƙa da su.

Don fahimtar wannan, bari mu koma ga misalin ciwon daji na fata kuma muyi la'akari da yiwuwar hasashe guda uku don gazawar tsarin.

1. Rarraba iri-iri na mutane: adadin hotuna marasa daidaituwa na sautunan fata daban-daban, yana haifar da tabbataccen ƙarya ko rashin ƙarfi na ƙarya saboda pigmentation.
2. Bayanan da aka horar da tsarin ya ƙunshi nau'i mai yawa da ke faruwa da kuma rarraba nau'i-nau'i wanda ba shi da alaƙa da mutane kuma ba shi da darajar ganowa: mai mulki a cikin hotunan ciwon daji na fata ko ciyawa a cikin hotunan tumaki. A wannan yanayin, sakamakon zai bambanta idan tsarin ya sami pixels a cikin hoton wani abu da idon ɗan adam ya bayyana a matsayin "mai mulki".
3. Bayanan sun ƙunshi sifa ta ɓangare na uku wanda mutum ba zai iya gani ba ko da ya neme su.

Me ake nufi? Mun san priori cewa bayanai na iya wakiltar ƙungiyoyi daban-daban na mutane daban-daban, kuma aƙalla za mu iya yin shirin neman irin waɗannan keɓancewar. A wasu kalmomi, akwai dalilai masu yawa na zamantakewa don ɗauka cewa bayanai game da ƙungiyoyin mutane sun riga sun ƙunshi wasu ƙiyayya. Idan muka kalli hoton tare da mai mulki, za mu ga wannan mai mulki - kawai mun yi watsi da shi a baya, mun san cewa ba kome ba ne, kuma mun manta cewa tsarin bai san komai ba.

Amma idan duk hotunanku na fata mara kyau an ɗauki su a ofis a ƙarƙashin hasken wuta fa, kuma fatar ku lafiya an ɗauke ta ƙarƙashin haske? Me zai faru idan bayan kun gama harbin fata mai lafiya, kafin harbin fata mara kyau, kun sabunta tsarin aiki a wayarku, kuma Apple ko Google sun ɗan canza algorithm na rage amo? Mutum ba zai iya lura da wannan ba, komai yawan neman irin waɗannan siffofi. Amma tsarin amfani da injin zai gani nan da nan kuma yayi amfani da wannan. Bata san komai ba.

Ya zuwa yanzu mun yi magana game da alaƙar da ba ta dace ba, amma kuma yana iya kasancewa cewa bayanan daidai ne kuma sakamakon daidai ne, amma ba kwa son amfani da su don dalilai na ɗa'a, doka, ko gudanarwa. Wasu hukunce-hukuncen, alal misali, ba sa ƙyale mata su sami rangwame akan inshorar su, kodayake mata na iya zama masu tuƙi masu aminci. Za mu iya yin sauƙin tunanin tsarin da, lokacin da ake nazarin bayanan tarihi, zai sanya ƙananan haɗari ga sunayen mata. To, bari mu cire sunaye daga zaɓin. Amma ku tuna misalin Amazon: tsarin zai iya ƙayyade jinsi dangane da wasu dalilai (ko da yake bai san menene jinsi ba, ko ma menene mota), kuma ba za ku lura da wannan ba har sai mai gudanarwa ya sake nazarin jadawalin kuɗin ku. tayi da cajin ku za a ci tara ku.

A ƙarshe, sau da yawa ana ɗauka cewa za mu yi amfani da irin waɗannan tsarin ne kawai don ayyukan da suka shafi mutane da hulɗar zamantakewa. Wannan ba daidai ba ne. Idan kun yi injin turbin gas, tabbas za ku so ku yi amfani da na'ura koyo zuwa na'urar wayar da ake watsawa ta dubun-duba ko ɗaruruwan na'urori masu auna firikwensin akan samfuran ku (audio, bidiyo, zafin jiki, da duk wasu na'urori masu auna firikwensin suna samar da bayanai waɗanda za'a iya daidaita su cikin sauƙi don ƙirƙirar na'ura. koyi model). A hasashe, za ka iya cewa, “Ga bayanai daga na’urorin injina dubu da suka gaza kafin su fashe, ga kuma bayanai daga na’urori dubu da ba su gaza ba. Gina abin koyi don sanin bambancin da ke tsakaninsu.” To, yanzu tunanin cewa Siemens na'urori masu auna firikwensin an shigar a kan 75% na miyagun turbines, kuma kawai 12% na masu kyau (babu alaka da kasawa). Tsarin zai gina samfurin don nemo turbines tare da firikwensin Siemens. Kash!

Hoto - Moritz Hardt, UC Berkeley

Gudanar da AI Bias

Me za mu iya yi game da shi? Kuna iya tuntuɓar batun ta kusurwoyi uku:

1. Rigakafin dabara wajen tattarawa da sarrafa bayanai don horar da tsarin.
2. Kayan aikin fasaha don nazari da gano halayen ƙirar.
3. Horarwa, ilmantarwa, da hankali yayin aiwatar da koyan na'ura zuwa samfura.

Akwai ba'a a cikin littafin Molière "The Bourgeois in the Nobility": An gaya wa wani mutum cewa an raba wallafe-wallafe zuwa litattafai da waƙoƙi, kuma ya yi farin ciki da gano cewa yana magana a cikin litattafai a duk rayuwarsa, ba tare da saninsa ba. Wataƙila wannan shine yadda masu kididdigar ke ji a yau: ba tare da saninsa ba, sun sadaukar da ayyukansu ga basirar wucin gadi da kuskuren samfur. Neman kuskuren samfuri da damuwa game da shi ba sabuwar matsala ba ce, muna buƙatar kawai mu kusanci tsarin sa. Kamar yadda aka ambata a sama, a wasu lokuta yana da sauƙin yin hakan ta hanyar nazarin matsalolin da suka shafi bayanan mutane. Mu priori muna ɗauka cewa muna iya samun ra'ayi game da ƙungiyoyin mutane daban-daban, amma yana da wahala a gare mu mu yi tunanin wani ra'ayi game da firikwensin Siemens.

Wani sabon abu game da duk waɗannan, ba shakka, shine mutane ba sa yin nazarin kididdiga kai tsaye. Ana aiwatar da shi ta hanyar injuna waɗanda ke ƙirƙira manyan samfuran ƙira waɗanda ke da wahalar fahimta. Batun gaskiya na daya daga cikin abubuwan da ke tattare da matsalar son zuciya. Muna tsoron cewa tsarin ba kawai son rai ba ne, amma babu wata hanyar da za a iya gano ra'ayinsa, kuma koyo na na'ura ya bambanta da sauran nau'o'in atomatik, wanda ya kamata ya ƙunshi matakai masu ma'ana da za a iya gwadawa.

Akwai matsaloli guda biyu a nan. Wataƙila har yanzu muna iya gudanar da wani nau'i na duba tsarin koyan na'ura. Kuma duba duk wani tsarin ba shi da sauƙi.

Na farko, daya daga cikin hanyoyin bincike na zamani a fagen koyon injin shine neman hanyoyin gano muhimman ayyuka na tsarin koyon injin. Wannan ya ce, koyon inji (a halin da ake ciki) wani sabon fanni ne na kimiyya wanda ke canzawa cikin sauri, don haka kada ka yi tunanin cewa abubuwan da ba su yiwuwa a yau ba za su iya zama na gaske ba da sannu. Aikin BABI - misali mai ban sha'awa na wannan.

Na biyu, ra'ayin cewa za ku iya gwadawa da fahimtar tsarin yanke shawara na tsarin da ake ciki ko kungiyoyi yana da kyau a ka'idar, amma haka-a aikace. Fahimtar yadda ake yanke shawara a cikin babbar ƙungiya ba ta da sauƙi. Ko da akwai tsarin yanke shawara na yau da kullun, ba ya nuna yadda mutane ke hulɗa da juna, kuma su kansu sau da yawa ba su da ma'ana, tsarin tsari don yanke shawararsu. Kamar yadda abokin aikina ya ce Vijay Pande, mutane kuma bakaken akwatuna ne.

Ɗauki mutane dubu a cikin kamfanoni da cibiyoyi masu yawa, kuma matsalar ta ƙara daɗaɗaɗaɗawa. Mun san bayan gaskiyar cewa Jirgin Saman Sararin Samaniya ya kaddara ya rabu da dawowa, kuma daidaikun mutane a cikin NASA sun sami bayanin da ya ba su dalilin tunanin wani mummunan abu zai iya faruwa, amma tsarin. gaba ɗaya Ban san wannan ba. NASA ma ta yi irin wannan binciken ne bayan ta rasa jirginta na baya, amma duk da haka ta yi asarar wani saboda irin wannan dalili. Yana da sauƙi a yi jayayya cewa ƙungiyoyi da mutane suna bin ƙayyadaddun ƙa'idodi masu ma'ana waɗanda za a iya gwadawa, fahimta, da canza su - amma ƙwarewa ta tabbatar da akasin haka. Wannan"Ra'ayin Gosplan".

Sau da yawa nakan kwatanta koyon na’ura da ma’adanar bayanai, musamman ma na alaka – wata sabuwar fasaha ta asali wacce ta sauya fasahar kimiyyar kwamfuta da duniyar da ke kewaye da ita, wacce ta zama wani bangare na komai, wanda muke amfani da shi akai-akai ba tare da saninsa ba. Databases ma suna da matsala, kuma suna da irin wannan yanayin: ana iya gina tsarin bisa munanan zato ko kuma munanan bayanai, amma zai yi wuya a gane, kuma mutanen da ke amfani da tsarin za su yi abin da ya gaya musu ba tare da tambaya ba. Akwai tsofaffin ba'a game da masu biyan haraji waɗanda suka taɓa rubuta sunanka ba daidai ba, kuma shawo kan su don gyara kuskuren yana da wahala fiye da canza sunanka a zahiri. Akwai hanyoyi da yawa don yin tunani game da wannan, amma ba a bayyana wanda ya fi kyau ba: a matsayin matsala na fasaha a cikin SQL, ko a matsayin kwaro a cikin sakin Oracle, ko a matsayin gazawar cibiyoyi na hukuma? Yaya wahalar samun kwaro a cikin tsarin da ya haifar da tsarin ba shi da fasalin gyaran rubutu? Shin za a iya gano hakan kafin mutane su fara gunaguni?

Ana kwatanta wannan matsala a sauƙaƙe ta hanyar labarai lokacin da direbobi ke tuƙi cikin koguna saboda tsoffin bayanai a cikin navigator. Ok, ana buƙatar sabunta taswirori koyaushe. Amma nawa ne TomTom ke da alhakin fashewar motar ku a cikin teku?

Abin da ya sa na ce haka shi ne, eh, son zuciya na koyon injin zai haifar da matsala. Amma waɗannan matsalolin za su yi kama da waɗanda muka fuskanta a baya, kuma za a iya lura da su kuma a warware su (ko a'a) kamar yadda muka iya a baya. Saboda haka, yanayin da AI son rai ke haifar da cutarwa ba shi yiwuwa ya faru ga manyan masu binciken da ke aiki a cikin babbar ƙungiya. Wataƙila, wasu ƴan kwangilar fasaha marasa mahimmanci ko mai siyar da software za su rubuta wani abu a kan gwiwoyi, ta amfani da abubuwan buɗe tushen tushe, ɗakunan karatu da kayan aikin da ba su fahimta ba. Kuma abokin ciniki mara sa'a zai sayi kalmar "hankali na wucin gadi" a cikin bayanin samfurin kuma, ba tare da yin tambayoyi ba, rarraba shi ga ma'aikatansa masu ƙarancin albashi, yana ba su umarnin yin abin da AI ta ce. Wannan shi ne ainihin abin da ya faru tare da bayanan bayanai. Wannan ba matsalar hankali ba ce, ko ma matsalar software. Wannan shi ne dalilin mutum.

ƙarshe

Koyon inji na iya yin duk abin da za ku iya koya wa kare - amma ba za ku taɓa tabbata ainihin abin da kuka koya wa kare ba.

Sau da yawa ina jin kamar kalmar "hankali na wucin gadi" kawai ya shiga hanyar tattaunawa irin wannan. Wannan kalmar tana ba da ra'ayi na ƙarya cewa a zahiri mun halicce shi - wannan hankali. Cewa muna kan hanyarmu zuwa HAL9000 ko Skynet - wani abu wanda a zahiri ya gane. Amma a'a. Waɗannan injuna ne kawai, kuma ya fi dacewa a kwatanta su da na'urar wanki. Ta fi na mutum wanki, amma idan ka zuba mata akushi maimakon wanki, ta... za ta wanke su. Jita-jita ma za su zama masu tsabta. Amma wannan ba zai zama abin da kuke tsammani ba, kuma wannan ba zai faru ba saboda tsarin yana da wani ra'ayi game da jita-jita. Na'urar wanki ba ta san abin da jita-jita suke ba ko waɗanne tufafi ne - misali ne kawai na aiki da kai, a zahiri ba ya bambanta da yadda ake sarrafa ta atomatik a da.

Ko muna magana ne game da motoci, jiragen sama, ko bayanan bayanai, waɗannan tsarin za su kasance duka biyu masu ƙarfi da iyaka. Za su dogara gaba ɗaya ga yadda mutane ke amfani da waɗannan tsarin, ko nufinsu mai kyau ne ko mara kyau, da yadda suka fahimci yadda suke aiki.

Saboda haka, a ce "hankali na wucin gadi ilmin lissafi ne, don haka ba zai iya samun son zuciya ba" gaba daya karya ne. Amma daidai da ƙarya ne a ce koyan na'ura "na cikin yanayi ne." Koyon na'ura yana samun alamu a cikin bayanai, kuma menene tsarin da yake samu ya dogara da bayanan, kuma bayanan sun dogara da mu. Kamar yadda muke yi da su. Koyon inji yana yin wasu abubuwa fiye da yadda za mu iya - amma karnuka, alal misali, sun fi mutane tasiri sosai wajen gano kwayoyi, wanda ba dalili ba ne don amfani da su a matsayin shaida da yanke hukunci bisa ga shaidarsu. Kuma karnuka, a hanya, sun fi kowane tsarin koyon injin.

Translation: Diana Letskaya.
Gyara: Aleksey Ivanov.
Al'umma: @PonchikNews.

source: www.habr.com