ස්ටැන්ෆර්ඩ් විශ්ව විද්‍යාලයේ පර්යේෂකයන් කණ්ඩායමක් කේතවල ඇති දුර්වලතා වල පෙනුම කෙරෙහි බුද්ධිමත් කේතීකරණ සහායකයින් භාවිතා කිරීමේ බලපෑම අධ්‍යයනය කළහ. OpenAI Codex යන්ත්‍ර ඉගෙනුම් වේදිකාව මත පදනම් වූ විසඳුම් සලකා බලන ලදී, GitHub Copilot වැනි, සූදානම් කළ කාර්යයන් දක්වා තරමක් සංකීර්ණ කේත කුට්ටි ජනනය කිරීමට ඉඩ සලසයි. කනස්සල්ලට කරුණ නම්, දුර්වලතා අඩංගු ඒවා ඇතුළුව පොදු GitHub ගබඩාවල සැබෑ කේතය යන්ත්‍ර ඉගෙනුම් ආකෘතිය පුහුණු කිරීම සඳහා භාවිතා කරන බැවින්, සංස්ලේෂණය කරන ලද කේතය දෝෂ නැවත නැවත සිදු කළ හැකි අතර අවදානම් සහිත කේතයක් යෝජනා කළ හැකි අතර, එය ඉටු කිරීමේ අවශ්‍යතාවය ද සැලකිල්ලට නොගනී. බාහිර දත්ත සැකසීමේදී අමතර චෙක්පත්.
වැඩසටහන්කරණයේ විවිධ අත්දැකීම් ඇති ස්වේච්ඡා සේවකයන් 47 දෙනෙක් අධ්‍යයනයට සම්බන්ධ වූහ - සිසුන්ගේ සිට වසර දහයක පළපුරුද්දක් ඇති වෘත්තිකයන් දක්වා. සහභාගිවන්නන් කණ්ඩායම් දෙකකට බෙදා ඇත - පර්යේෂණාත්මක (පුද්ගලයින් 33) සහ පාලනය (පුද්ගලයින් 14). කණ්ඩායම් දෙකටම Stack Overflow වෙතින් සූදානම් කළ උදාහරණ භාවිතා කිරීමේ හැකියාව ඇතුළුව ඕනෑම පුස්තකාල සහ අන්තර්ජාල සම්පත් වෙත ප්‍රවේශ විය. පර්යේෂණාත්මක කණ්ඩායමට AI සහායකයෙකු භාවිතා කිරීමට අවස්ථාව ලබා දී ඇත.
සෑම සහභාගිවන්නෙකුටම ලේඛන කේතයට අදාළ කාර්යයන් 5ක් ලබා දී ඇති අතර, දුර්වලතාවලට තුඩු දෙන වැරදි සිදු කිරීමට පහසු වේ. උදාහරණයක් ලෙස, සංකේතනය සහ විකේතනය කිරීමේ කාර්යයන් ලිවීම, ඩිජිටල් අත්සන් භාවිතා කිරීම, ගොනු මාර්ග හෝ SQL විමසුම් සෑදීමට සම්බන්ධ දත්ත සැකසීම, C කේතයේ විශාල සංඛ්‍යා හැසිරවීම, වෙබ් පිටු තුළ ප්‍රදර්ශනය වන ආදානය සැකසීම වැනි කාර්යයන් තිබුණි. AI සහායක භාවිතා කරන විට නිපදවන කේතයේ ආරක්ෂාවට ක්‍රමලේඛන භාෂා වල බලපෑම සලකා බැලීම සඳහා, පැවරුම් Python, C, සහ JavaScript ආවරණය කරයි.
එහි ප්‍රතිඵලයක් වශයෙන්, codex-davinci-002 ආකෘතිය මත පදනම් වූ බුද්ධිමත් AI සහායකයක් භාවිතා කළ සහභාගිවන්නන් AI සහායකයක් භාවිතා නොකළ සහභාගිවන්නන්ට වඩා සැලකිය යුතු තරම් අඩු ආරක්ෂිත කේතයක් සකස් කර ඇති බව සොයා ගන්නා ලදී. සමස්තයක් වශයෙන්, AI සහායක භාවිතා කළ කණ්ඩායමේ සහභාගිවන්නන්ගෙන් 67% ක් පමණක් නිවැරදි සහ ආරක්ෂිත කේතය සැපයීමට සමත් වූ අතර අනෙක් කණ්ඩායමේ මෙම අගය 79% කි.
ඒ අතරම, ආත්ම අභිමානය පිළිබඳ දර්ශක ප්‍රතිවිරුද්ධ විය - AI සහායක භාවිතා කළ සහභාගිවන්නන් විශ්වාස කළේ ඔවුන්ගේ කේතය අනෙක් කණ්ඩායමේ සහභාගිවන්නන්ට වඩා ආරක්ෂිත වනු ඇති බවයි. ඊට අමතරව, AI සහායකයා අඩුවෙන් විශ්වාස කළ සහ ලබා දී ඇති විමසීම් විශ්ලේෂණය කිරීමට සහ ඒවාට වෙනස්කම් කිරීමට වැඩි කාලයක් ගත කළ සහභාගිවන්නන් කේතයේ අඩු අවදානම් ඇති බව සටහන් විය.
උදාහරණයක් ලෙස, ගුප්ත ලේඛන පුස්තකාලවලින් පිටපත් කරන ලද කේතය AI සහායක විසින් යෝජනා කරන ලද කේතයට වඩා ආරක්ෂිත පෙරනිමි පරාමිති අගයන් අඩංගු විය. එසේම, AI සහායක භාවිතා කරන විට, අඩු විශ්වාසදායක සංකේතාංකන ඇල්ගොරිතම තෝරාගැනීම සහ ආපසු ලබා දුන් අගයන්හි සත්‍යාපන චෙක්පත් නොමැතිකම සටහන් විය. C හි සංඛ්‍යා හැසිරවීම සම්බන්ධ කාර්යයකදී, AI සහායක භාවිතයෙන් ලියා ඇති කේතයේ වැඩි දෝෂ ඇති වූ අතර, එය පූර්ණ සංඛ්‍යා පිටාර ගැලීමට හේතු විය.
මීට අමතරව, C භාෂාවෙන් සාප්පු සවාරි ලැයිස්තුවක් සැකසීම සඳහා ව්‍යුහයක් ක්‍රියාත්මක කරන ලෙස ඉල්ලා සිටි සිසුන් 58 දෙනෙකු සම්බන්ධ කර ගනිමින් නොවැම්බර් මාසයේදී නිව් යෝර්ක් විශ්ව විද්‍යාලයේ කණ්ඩායමක් විසින් කරන ලද සමාන අධ්‍යයනයක් අපට සටහන් කළ හැකිය. ප්‍රතිඵලවලින් පෙන්නුම් කළේ කේත ආරක්ෂාව සඳහා AI සහායකගේ බලපෑම අඩු බවයි - AI සහායක භාවිත කළ පරිශීලකයන් සාමාන්‍යයෙන් 10% ක් පමණ වැඩි ආරක්ෂාව සම්බන්ධ දෝෂ සිදු කර ඇත.
මූලාශ්රය: opennet.ru