ගැඹුරු ඉගෙනීම මත පමණක් ගොඩනගා ඇති AI පද්ධති අපට විශ්වාස කළ නොහැක

ගැඹුරු ඉගෙනීම මත පමණක් ගොඩනගා ඇති AI පද්ධති අපට විශ්වාස කළ නොහැක

මෙම පාඨය විද්‍යාත්මක පර්යේෂණවල ප්‍රතිඵලයක් නොව අපගේ ක්ෂණික තාක්ෂණික දියුණුව පිළිබඳ බොහෝ මතවලින් එකකි. ඒ සමගම සාකච්ඡාවට ආරාධනාවක්.

නිව් යෝර්ක් විශ්ව විද්‍යාලයේ මහාචාර්යවරයකු වන ගැරී මාකස් විශ්වාස කරන්නේ ගැඹුරු ඉගෙනීම AI සංවර්ධනය සඳහා වැදගත් කාර්යභාරයක් ඉටු කරන බවයි. නමුත් මෙම තාක්ෂණය සඳහා අධික උද්යෝගය එහි අපකීර්තියට හේතු විය හැකි බව ඔහු විශ්වාස කරයි.

ඔහුගේ පොතේ AI නැවත ආරම්භ කිරීම: අපට විශ්වාස කළ හැකි කෘතිම බුද්ධිය ගොඩනැගීම නවීනතම AI පර්යේෂණ පිළිබඳ වෘත්තියක් ගොඩනගා ඇති පුහුණු ස්නායු විද්‍යාඥයෙකු වන මාකස්, තාක්ෂණික සහ සදාචාරාත්මක අංශ ආමන්ත්‍රණය කරයි. තාක්‍ෂණික දෘෂ්ටිකෝණයකින්, ගැඹුරු ඉගෙනීම මගින් රූපය හෝ කථනය හඳුනාගැනීම වැනි අපගේ මොළය විසින් සිදු කරනු ලබන සංජානන කාර්යයන් සාර්ථකව අනුකරණය කළ හැක. නමුත් සංවාද අවබෝධ කර ගැනීම හෝ හේතු-ඵල සම්බන්ධතා නිර්ණය කිරීම වැනි වෙනත් කාර්යයන් සඳහා ගැඹුරු ඉගෙනීම සුදුසු නොවේ. බොහෝ විට කෘත්‍රිම සාමාන්‍ය බුද්ධිය ලෙස හඳුන්වන පුළුල් පරාසයක ගැටලු විසඳිය හැකි වඩාත් දියුණු බුද්ධිමත් යන්ත්‍ර නිර්මාණය කිරීමට ගැඹුරු ඉගෙනීම වෙනත් ශිල්පීය ක්‍රම සමඟ ඒකාබද්ධ කළ යුතුය.

AI පද්ධතියක් එහි කර්තව්‍යයන් හෝ අවට ලෝකය සැබවින්ම අවබෝධ කර නොගන්නේ නම්, මෙය භයානක ප්‍රතිවිපාකවලට තුඩු දිය හැකිය. පද්ධතියේ පරිසරයේ සිදුවන සුළු අනපේක්ෂිත වෙනස්කම් පවා වැරදි හැසිරීම් වලට තුඩු දිය හැකිය. දැනටමත් එවැනි උදාහරණ බොහොමයක් තිබේ: රැවටීමට පහසු නුසුදුසු ප්රකාශනවල නිර්ණායක; අඛණ්ඩව වෙනස්කම් කරන රැකියා සෙවුම් පද්ධති; රියදුරු නොමැති මෝටර් රථ අනතුරට ලක් වන අතර සමහර විට රියදුරු හෝ පදිකයින් මිය යයි. කෘතිම සාමාන්‍ය බුද්ධිය නිර්මාණය කිරීම සිත්ගන්නා පර්යේෂණ ගැටළුවක් පමණක් නොවේ, එයට සම්පූර්ණයෙන්ම ප්‍රායෝගික යෙදුම් රාශියක් ඇත.

ඔවුන්ගේ පොතේ මාකස් සහ ඔහුගේ සම කර්තෘ අර්නස්ට් ඩේවිස් වෙනස් මාවතක් සඳහා තර්ක කරති. සාමාන්‍ය AI නිර්මාණය කිරීමෙන් අප තවමත් බොහෝ දුරස් බව ඔවුන් විශ්වාස කරයි, නමුත් ඉක්මනින් හෝ පසුව එය නිර්මාණය කිරීමට හැකි වනු ඇතැයි ඔවුන් විශ්වාස කරයි.

අපට සාමාන්‍ය AI අවශ්‍ය වන්නේ ඇයි? විශේෂිත අනුවාදයන් දැනටමත් නිර්මාණය කර ඇති අතර ප්රතිලාභ රැසක් ගෙන එයි.

එය හරි, ඊටත් වඩා ප්රතිලාභ ලැබෙනු ඇත. නමුත් විශේෂිත AI වලට විසඳිය නොහැකි ගැටළු බොහොමයක් තිබේ. උදාහරණයක් ලෙස, සාමාන්‍ය කථනය තේරුම් ගැනීම, හෝ අතථ්‍ය ලෝකයේ සාමාන්‍ය සහාය, හෝ පිරිසිදු කිරීමට සහ ආහාර පිසීම සඳහා උපකාර වන රොබෝවක්. එවැනි කාර්යයන් විශේෂිත AI හි හැකියාවන් ඉක්මවා ඇත. තවත් රසවත් ප්‍රායෝගික ප්‍රශ්නයක්: විශේෂිත AI භාවිතයෙන් ආරක්ෂිත ස්වයං-රිය පැදවීමේ මෝටර් රථයක් නිර්මාණය කළ හැකිද? අත්දැකීම් වලින් පෙනී යන්නේ එවැනි AI තවමත් අසාමාන්‍ය අවස්ථාවන්හිදී හැසිරීම සම්බන්ධයෙන් බොහෝ ගැටලු ඇති බවයි, රිය පැදවීමේදී පවා, එය තත්වය බෙහෙවින් සංකීර්ණ කරයි.

වෛද්‍ය විද්‍යාවේ විශාල නව සොයාගැනීම් කිරීමට අපට උපකාර කළ හැකි AI ලබා ගැනීමට අප සැවොම කැමති යැයි මම සිතමි. ජීව විද්‍යාව සංකීර්ණ ක්ෂේත්‍රයක් වන බැවින් වර්තමාන තාක්ෂණයන් මේ සඳහා සුදුසු වේද යන්න පැහැදිලි නැත. ඔබ බොහෝ පොත් කියවීමට සූදානම් විය යුතුය. විද්‍යාඥයින් ජාල සහ අණු වල අන්තර්ක්‍රියා වල හේතු-ඵල සම්බන්ධතා අවබෝධ කර ගනී, ග්‍රහලෝක පිළිබඳ න්‍යායන් වර්ධනය කළ හැකිය, යනාදිය. කෙසේ වෙතත්, විශේෂිත AI සමඟ, අපට එවැනි සොයාගැනීම් කළ හැකි යන්ත්‍ර නිර්මාණය කළ නොහැක. සාමාන්‍ය AI සමඟින්, අපට විද්‍යාව, තාක්‍ෂණය සහ වෛද්‍ය විද්‍යාවේ විප්ලවීය වෙනසක් කළ හැකිය. මගේ මතය අනුව, සාමාන්‍ය AI නිර්මාණය කිරීම සඳහා දිගටම කටයුතු කිරීම ඉතා වැදගත් වේ.

"සාමාන්‍ය" යන්නෙන් ඔබ අදහස් කරන්නේ ශක්තිමත් AI ලෙසද?

"සාමාන්‍ය" යන්නෙන් මම අදහස් කරන්නේ AI හට පියාසර කරන විට නව ගැටළු ගැන සිතීමට සහ විසඳීමට හැකි වනු ඇති බවයි. පසුගිය වසර 2000 තුළ ප්‍රශ්නය වෙනස් නොවූ තැන, යන්න, කියන්න මෙන් නොව.

සාමාන්‍ය AI හට දේශපාලනය සහ වෛද්‍ය විද්‍යාව යන දෙකෙහිම තීරණ ගැනීමට හැකි විය යුතුය. මෙය මානව හැකියාවට සමාන ය; ඕනෑම සිහිකල්පනාව ඇති පුද්ගලයෙකුට බොහෝ දේ කළ හැකිය. ඔබ අද්දැකීම් අඩු සිසුන් රැගෙන දින කිහිපයක් ඇතුළත නීතිමය ගැටලුවක සිට වෛද්‍ය ප්‍රශ්නයක් දක්වා ඕනෑම දෙයකට පාහේ වැඩ කිරීමට සලස්වන්න. මක්නිසාද යත් ඔවුන්ට ලෝකය පිළිබඳ සාමාන්‍ය අවබෝධයක් ඇති අතර කියවීමට හැකි බැවින් ඉතා පුළුල් පරාසයක ක්‍රියාකාරකම් සඳහා දායක විය හැකි බැවිනි.

එවැනි බුද්ධිය සහ ශක්තිමත් බුද්ධිය අතර ඇති සම්බන්ධය නම් ශක්තිමත් නොවන බුද්ධියකට සාමාන්‍ය ගැටලු විසඳීමට නොහැකි වනු ඇත. නිරන්තරයෙන් වෙනස් වන ලෝකයක් සමඟ කටයුතු කිරීමට තරම් ශක්තිමත් යමක් නිර්මාණය කිරීමට, ඔබට අවම වශයෙන් සාමාන්‍ය බුද්ධිය වෙත ප්‍රවේශ වීමට අවශ්‍ය විය හැකිය.

නමුත් දැන් අපි මෙයින් බොහෝ දුරස් වී සිටිමු. AlphaGo හට 19x19 පුවරුවක හොඳින් වාදනය කළ හැකි නමුත් එය සෘජුකෝණාස්‍රාකාර පුවරුවක ක්‍රීඩා කිරීමට නැවත පුහුණු කළ යුතුය. නැතහොත් සාමාන්‍ය ගැඹුරු ඉගෙනුම් පද්ධතියක් ගන්න: අලියෙකු හොඳින් ආලෝකමත් වුවහොත් සහ උගේ සමේ වයනය දෘශ්‍යමාන වුවහොත් එයට අලියා හඳුනාගත හැකිය. අලියෙකුගේ සිල්වට් එක පමණක් පෙනෙන්නේ නම්, පද්ධතියට එය හඳුනා ගැනීමට නොහැකි වනු ඇත.

ඔබේ පොතේ, ගැඹුරු ඉගෙනීමට සාමාන්‍ය AI හි හැකියාවන් සාක්ෂාත් කරගත නොහැකි බව ඔබ සඳහන් කරයි, මන්ද එය ගැඹුරු අවබෝධයක් ලබා ගත නොහැකි බැවිනි.

සංජානන විද්‍යාවේදී ඔවුන් විවිධ සංජානන ආකෘති ගොඩනැගීම ගැන කතා කරයි. මම හෝටල් කාමරයක වාඩි වී සිටින අතර, වැසිකිලියක්, ඇඳක්, අසාමාන්ය ආකාරයකින් එල්ලා ඇති රූපවාහිනියක් ඇති බව මට වැටහෙනවා. මම මේ සියලු වස්තූන් දනිමි, මම ඒවා හඳුනා නොගනිමි. ඔවුන් එකිනෙකා සමඟ සම්බන්ධ වී ඇති ආකාරය ද මට වැටහෙනවා. මා අවට ලෝකයේ ක්‍රියාකාරිත්වය ගැන මට අදහස් තිබේ. ඔවුන් පරිපූර්ණ නැහැ. ඒවා වැරදි විය හැකි නමුත් ඒවා ඉතා හොඳයි. ඒවා මත පදනම්ව, මම මගේ දෛනික ක්‍රියාවන් සඳහා මාර්ගෝපදේශ බවට පත්වන නිගමන රාශියක් කරමි.

අනෙක් අන්තය වූයේ DeepMind විසින් ගොඩනඟන ලද Atari ක්‍රීඩා පද්ධතිය වැනි දෙයකි, එහි තිරයේ ඇතැම් ස්ථානවල පික්සෙල් දුටු විට එය කළ යුතු දේ මතකයට නැංවීය. ඔබ ප්‍රමාණවත් දත්ත ලබා ගන්නේ නම්, ඔබට අවබෝධයක් ඇතැයි ඔබ සිතනු ඇත, නමුත් ඇත්ත වශයෙන්ම එය ඉතා මතුපිටින් පෙනේ. මෙයට සාක්ෂියක් වන්නේ ඔබ පික්සල් තුනකින් වස්තු චලනය කරන්නේ නම්, AI වඩා නරක ලෙස ක්‍රියා කරයි. වෙනස්කම් ඔහුව අවුල් කරයි. මෙය ගැඹුරු අවබෝධයේ ප්රතිවිරුද්ධයයි.

මෙම ගැටළුව විසඳීම සඳහා, ඔබ සම්භාව්ය AI වෙත ආපසු යාමට යෝජනා කරයි. අප භාවිතා කිරීමට උත්සාහ කළ යුතු වාසි මොනවාද?

වාසි කිහිපයක් තිබේ.

පළමුව, සම්භාව්‍ය AI යනු ඇත්ත වශයෙන්ම ලෝකයේ සංජානන ආකෘති නිර්මාණය කිරීමේ රාමුවකි, එය මත පදනම්ව නිගමනවලට එළඹිය හැකිය.

දෙවනුව, සම්භාව්‍ය AI නීති සමඟ සම්පුර්ණයෙන්ම අනුකූල වේ. ප්‍රවීණයන් නීති මග හැරීමට උත්සාහ කරන ගැඹුරු ඉගෙනීමේ අමුතු ප්‍රවණතාවක් දැන් තිබේ. ඔවුන්ට අවශ්‍ය වන්නේ ස්නායුක ජාල වල සෑම දෙයක්ම කිරීමට මිස සම්භාව්‍ය ක්‍රමලේඛනය මෙන් පෙනෙන කිසිවක් කිරීමට නොවේ. නමුත් මේ ආකාරයෙන් සන්සුන්ව විසඳා ගත් ගැටළු තිබේ, කිසිවෙකු ඒ ගැන අවධානය යොමු නොකළේය. උදාහරණයක් ලෙස, Google සිතියම් තුළ මාර්ග ගොඩනැගීම.

ඇත්ත වශයෙන්ම, අපට ප්රවේශයන් දෙකම අවශ්ය වේ. යන්ත්‍ර ඉගෙනීම දත්ත වලින් ඉගෙන ගැනීමට හොඳ නමුත් පරිගණක වැඩසටහනක් වන වියුක්තය නිරූපණය කිරීමේදී ඉතා දුර්වලය. Classic AI වියුක්ත කිරීම් සමඟ හොඳින් ක්‍රියා කරයි, නමුත් එය සම්පූර්ණයෙන්ම අතින් ක්‍රමලේඛනය කළ යුතු අතර, ඒවා සියල්ල ක්‍රමලේඛනය කිරීමට තරම් දැනුමක් ලෝකයේ ඇත. පැහැදිලිවම අපි ප්රවේශයන් දෙකම ඒකාබද්ධ කළ යුතුය.

මෙය මිනිස් මනසෙන් අපට ඉගෙන ගත හැකි දේ ගැන ඔබ කතා කරන පරිච්ඡේදයට සම්බන්ධ වේ. පළමුවෙන්ම, අපගේ විඥානය විවිධ ආකාරවලින් ක්‍රියා කරන විවිධ පද්ධති වලින් සමන්විත වන බව ඉහත සඳහන් කළ අදහස මත පදනම් වූ සංකල්පය ගැන.

මෙය පැහැදිලි කිරීමට තවත් ක්‍රමයක් ලෙස මම සිතන්නේ අප සතුව ඇති එක් එක් සංජානන පද්ධතිය සැබවින්ම විවිධ ගැටළුවක් විසඳන බවයි. AI හි සමාන කොටස් විවිධ ලක්ෂණ ඇති විවිධ ගැටළු විසඳීමට සැලසුම් කළ යුතුය.

දැන් අපි උත්සාහ කරන්නේ එකිනෙකට වඩා රැඩිකල් ලෙස වෙනස් වන ගැටළු විසඳීමට සියල්ලෙන් එක තාක්ෂණයන් කිහිපයක් භාවිතා කිරීමට ය. වාක්‍යයක් තේරුම් ගැනීම වස්තුවක් හඳුනා ගැනීම හා සමාන නොවේ. නමුත් මිනිසුන් මෙම අවස්ථා දෙකේදීම ගැඹුරු ඉගෙනීම භාවිතා කිරීමට උත්සාහ කරයි. සංජානන දෘෂ්ටි කෝණයකින්, මේවා ගුණාත්මකව වෙනස් කාර්යයන් වේ. ගැඹුරු ඉගෙනුම් ප්‍රජාව තුළ සම්භාව්‍ය AI සඳහා කෙතරම් අඩු අගය කිරීමක් තිබේද යන්න ගැන මම පුදුම වෙමි. රිදී උණ්ඩයක් පෙනෙන තෙක් බලා සිටින්නේ ඇයි? එය සාක්ෂාත් කරගත නොහැකි අතර, ඵල රහිත සෙවීම් AI නිර්මාණය කිරීමේ කාර්යයේ සම්පූර්ණ සංකීර්ණත්වය අවබෝධ කර ගැනීමට අපට ඉඩ නොදේ.

හේතුව-සහ-ඵල සම්බන්ධතා තේරුම් ගැනීමට AI පද්ධති අවශ්‍ය බව ද ඔබ සඳහන් කරයි. ගැඹුරු ඉගෙනීම, සම්භාව්‍ය AI, හෝ සම්පූර්ණයෙන්ම අලුත් දෙයක් මේ සඳහා අපට උපකාරී වනු ඇතැයි ඔබ සිතනවාද?

මෙය ගැඹුරු ඉගෙනීම නොගැලපෙන තවත් අංශයකි. එය යම් යම් සිදුවීම් සඳහා හේතු පැහැදිලි නොකරයි, නමුත් දී ඇති කොන්දේසි යටතේ සිදුවීමක සම්භාවිතාව ගණනය කරයි.

අපි කතා කරන්නේ කුමක් ගැනද? ඔබ යම් යම් අවස්ථා නරඹන අතර, මෙය සිදුවන්නේ ඇයි සහ සමහර තත්වයන් වෙනස් වුවහොත් කුමක් සිදු විය හැකිද යන්න ඔබට වැටහේ. ටීවී එක තියලා තියෙන ස්ටෑන්ඩ් එක දිහා බලාගෙන මට හිතාගන්න පුළුවන් උගේ එක කකුලක් කැපුවොත් ස්ටෑන්ඩ් එක පෙරලිලා ටීවී එක වැටෙනවා කියලා. මෙය හේතු ඵල සම්බන්ධතාවයකි.

Classic AI අපට මේ සඳහා මෙවලම් කිහිපයක් ලබා දෙයි. නිදසුනක් වශයෙන්, උපකාරය යනු කුමක්ද සහ වැටීම යනු කුමක්දැයි ඔහුට සිතාගත හැකිය. නමුත් මම ඕනෑවට වඩා වර්ණනා නොකරමි. ගැටළුව වන්නේ සම්භාව්‍ය AI බොහෝ දුරට සිදුවන්නේ කුමක්ද යන්න පිළිබඳ සම්පූර්ණ තොරතුරු මත රඳා පවතින අතර ස්ථාවරය දෙස බැලීමෙන් මම නිගමනයකට පැමිණියෙමි. මට කෙසේ හෝ සාමාන්‍යකරණය කළ හැකිය, මට නොපෙනෙන ස්ථාවරයේ කොටස් සිතාගත හැකිය. මෙම දේපල ක්‍රියාත්මක කිරීමට අපට තවමත් මෙවලම් නොමැත.

මිනිස්සුන්ට සහජ දැනුමක් තියෙනවා කියලත් ඔබ කියනවා. මෙය AI හි ක්‍රියාත්මක කරන්නේ කෙසේද?

උපන් මොහොතේ අපගේ මොළය දැනටමත් ඉතා විස්තීර්ණ පද්ධතියකි. එය ස්ථාවර නොවේ, ස්වභාවධර්මය පළමු, රළු කෙටුම්පත නිර්මාණය කළේය. ඉන්පසු ඉගෙනීම අපගේ ජීවිත කාලය පුරාම එම කෙටුම්පත සංශෝධනය කිරීමට උපකාරී වේ.

මොළයේ රළු කෙටුම්පතක් දැනටමත් නිශ්චිත හැකියාවන් ඇත. අලුත උපන් කඳු එළුවෙකුට පැය කිහිපයක් ඇතුළත කඳු බෑවුමෙන් නොවරදවාම බැසීමට හැකි වේ. ඔහුට දැනටමත් ත්‍රිමාණ අවකාශය, ඔහුගේ ශරීරය සහ ඒවා අතර සම්බන්ධය පිළිබඳ අවබෝධයක් ඇති බව පැහැදිලිය. ඉතා සංකීර්ණ පද්ධතියකි.

අපට දෙමුහුන් අවශ්‍ය යැයි මම විශ්වාස කරන්නේ මේ නිසා ය. හිස් ලෑල්ලකින් පටන් ගෙන දිගු, විශාල අත්දැකීම් වලින් ඉගෙන ගන්නවාට වඩා, ආරම්භ කළ යුත්තේ කොතැනින්ද යන්න පිළිබඳ සමාන දැනුමක් නොමැති ලෝකයක හොඳින් ක්‍රියා කරන රොබෝවක් නිර්මාණය කරන්නේ කෙසේදැයි සිතීම දුෂ්කර ය.

මිනිසුන් සම්බන්ධයෙන් ගත් කල, අපගේ සහජ දැනුම පැමිණෙන්නේ දිගු කාලයක් තිස්සේ පරිණාමය වූ අපගේ ජෙනෝමය මගිනි. නමුත් AI පද්ධති සමඟ අපට වෙනත් මාර්ගයකට යාමට සිදුවනු ඇත. මෙයින් කොටසක් අපගේ ඇල්ගොරිතම තැනීමේ නීති විය හැකිය. මෙම ඇල්ගොරිතම හසුරුවන දත්ත ව්‍යුහයන් නිර්මාණය කිරීමේ නීති මෙහි කොටසක් විය හැක. තවද මෙයින් කොටසක් අපි යන්ත්‍ර සඳහා සෘජුවම ආයෝජනය කරන බව දැනුම විය හැකිය.

පොතේ ඔබ විශ්වාසය පිළිබඳ අදහස සහ විශ්වාසනීය පද්ධති නිර්මාණය කිරීම සිත්ගන්නා කරුණකි. ඔබ මෙම විශේෂිත නිර්ණායකය තෝරා ගත්තේ ඇයි?

අද මේ සියල්ල බෝල ක්‍රීඩාවක් බව මම විශ්වාස කරමි. විශ්වාස කළ නොහැකි මෘදුකාංග රාශියක් විශ්වාස කරමින් අප ජීවත් වන්නේ ඉතිහාසයේ අමුතුම මොහොතක බව මට පෙනේ. මම හිතන්නේ අද අපට ඇති කරදර සදාකාලික නොවනු ඇත. වසර සියයකින්, AI අපගේ විශ්වාසය සාධාරණීකරණය කරනු ඇත, සමහර විට ඊටත් වඩා ඉක්මනින්.

නමුත් අද AI භයානකයි. එලොන් මස්ක් බිය වන අර්ථයෙන් නොව, රැකියා සම්මුඛ පරීක්ෂණ ක්‍රම මගින් කාන්තාවන්ට වෙනස් කොට සැලකීම, ක්‍රමලේඛකයින් කුමක් කළත්, ඔවුන්ගේ මෙවලම් ඉතා සරල බැවින්.

මට වඩා හොඳ AI තිබුණා නම් හොඳයි. AI ක්‍රියා නොකරන බවත් එය නිකම්ම අනතුරුදායක බවත් එය නිවැරදි කිරීමට අවශ්‍ය නැති බවත් මිනිසුන් වටහා ගන්නා “AI ශීත ඍතුවක්” දැකීමට මට අවශ්‍ය නැත.

යම් ආකාරයකින්, ඔබේ පොත ඉතා ශුභවාදී බව පෙනේ. විශ්වාසදායක AI ගොඩනගා ගත හැකි බව ඔබ උපකල්පනය කරයි. අපට අවශ්‍ය වන්නේ වෙනත් දිශාවක් දෙස බැලීම පමණි.

ඒක හරි, පොත කෙටි කාලීනව ඉතා අශුභවාදී වන අතර දිගුකාලීනව ඉතා ශුභවාදී ය. නිවැරදි පිළිතුරු කුමක් විය යුතුද යන්න පුළුල් ලෙස බැලීමෙන් අප විස්තර කර ඇති සියලුම ගැටළු විසඳිය හැකි බව අපි විශ්වාස කරමු. ඒ වගේම අපි හිතනවා මෙහෙම වුණොත් ලෝකය යහපත් තැනක් වෙයි කියලා.

මූලාශ්රය: www.habr.com

අදහස් එක් කරන්න