Stenford universitetining bir guruh tadqiqotchilari kod yozishda aqlli yordamchilardan foydalanishning koddagi zaifliklarning ko‘rinishiga ta’sirini o‘rganishdi. Biz GitHub Copilot kabi OpenAI Codex mashinani oʻrganish platformasi asosidagi yechimlarni koʻrib chiqdik, ular sizga juda murakkab kod bloklarini, tayyor funksiyalargacha yaratish imkonini beradi. Xavotirlar GitHub ommaviy omborlari, shu jumladan zaifliklarni o'z ichiga olgan haqiqiy kodlar mashinani o'rganish modelini o'qitish uchun ishlatilganligi sababli, sintezlangan kod xatolarni takrorlashi va zaifliklarni o'z ichiga olgan kodni taklif qilishi mumkin, shuningdek, hisobga olinmaydi. tashqi ma'lumotlarni qayta ishlashda qo'shimcha tekshiruvlarni amalga oshirish zarurati.
Tadqiqotda dasturlash bo‘yicha turli tajribaga ega bo‘lgan 47 nafar ko‘ngilli ishtirok etdi – talabalardan tortib o‘n yillik tajribaga ega mutaxassislargacha. Ishtirokchilar ikki guruhga bo'lingan - eksperimental (33 kishi) va nazorat (14 kishi). Ikkala guruh ham har qanday kutubxonalar va Internet-resurslarga kirish huquqiga ega edi, shu jumladan Stack Overflow-dan tayyor misollardan foydalanish. Eksperimental guruhga AI yordamchisidan foydalanish imkoniyati berildi.
Har bir ishtirokchiga kod yozish bilan bog'liq 5 ta vazifa berildi, bunda zaifliklarga olib keladigan xatolarga yo'l qo'yish mumkin. Masalan, shifrlash va shifrni ochish funksiyalarini yozish, raqamli imzolardan foydalanish, fayl yo‘llari yoki SQL so‘rovlarini shakllantirishda ishtirok etuvchi ma’lumotlarni qayta ishlash, C kodida katta sonlarni manipulyatsiya qilish, veb-sahifalarda ko‘rsatilgan ma’lumotlarni qayta ishlash vazifalari mavjud edi. AI yordamchilaridan foydalanganda olingan kod xavfsizligiga dasturlash tillarining ta'sirini hisobga olish uchun topshiriqlar Python, C va JavaScript-ni qamrab oldi.
Natijada, codex-davinci-002 modeliga asoslangan aqlli sun'iy intellekt yordamchisidan foydalangan ishtirokchilar sun'iy intellekt yordamchisidan foydalanmagan ishtirokchilarga qaraganda ancha kam xavfsiz kod ishlab chiqargani aniqlandi. Umuman olganda, AI yordamchisidan foydalanadigan guruh ishtirokchilarining atigi 67 foizi to'g'ri va xavfsiz kodni taqdim eta olgan bo'lsa, boshqa guruhda bu ko'rsatkich 79 foizni tashkil etdi.
Shu bilan birga, o'z-o'zini hurmat qilish ko'rsatkichlari o'zgardi - AI yordamchisidan foydalangan ishtirokchilar, ularning kodi boshqa guruh ishtirokchilarinikiga qaraganda xavfsizroq bo'lishiga ishonishdi. Bundan tashqari, AI yordamchisiga kamroq ishongan va berilgan maslahatlarni tahlil qilish va o'zgartirishlar kiritish uchun ko'proq vaqt sarflagan ishtirokchilar kodda kam zaifliklarni yuzaga keltirgani qayd etildi.
Masalan, kriptografik kutubxonalardan ko'chirilgan kodda AI yordamchisi tomonidan tavsiya etilgan koddan ko'ra xavfsizroq standart parametr qiymatlari mavjud edi. Shuningdek, AI yordamchisidan foydalanganda kamroq ishonchli shifrlash algoritmlarini tanlash va qaytarilgan qiymatlarni autentifikatsiya qilishning yo'qligi aniqlandi. C raqamini manipulyatsiya qilish vazifasida AI yordamchisi yordamida yozilgan kodda ko'proq xatolar bo'lib, natijada butun sonlar to'lib ketdi.
Bundan tashqari, Nyu-York universiteti guruhi tomonidan noyabr oyida 58 talaba ishtirokida o'tkazilgan shunga o'xshash tadqiqotni ta'kidlash mumkin, ulardan C tilida xaridlar ro'yxatini qayta ishlash tuzilmasini amalga oshirish so'ralgan. Natijalar AI yordamchisining kod xavfsizligiga ahamiyatsiz ta'sirini ko'rsatdi - AI yordamchisidan foydalangan foydalanuvchilar xavfsizlik bilan bog'liq xatolarga o'rtacha 10% ko'proq yo'l qo'yishdi.
Manba: opennet.ru