اسٽنفورڊ يونيورسٽيءَ جي محققن جي هڪ ٽيم ڪوڊ ۾ ڪمزورين جي ظاهر تي ذهين ڪوڊنگ اسسٽنٽ استعمال ڪرڻ جي اثر جو مطالعو ڪيو. OpenAI Codex مشين لرننگ پليٽ فارم تي ٻڌل حلن تي غور ڪيو ويو، جهڙوڪ GitHub Copilot، جيڪي تيار ڪيل ڪمن تائين، ڪافي پيچيده ڪوڊ بلاڪ جي نسل کي اجازت ڏين ٿا. تشويش اها آهي ته جيئن ته عوامي GitHub ريپوزٽريز مان حقيقي ڪوڊ، جن ۾ اهي خاميون شامل آهن، مشين لرننگ ماڊل کي تربيت ڏيڻ لاءِ استعمال ڪيو ويندو آهي، ان ڪري ٺهيل ڪوڊ غلطين کي ورجائي سگهي ٿو ۽ ڪوڊ تجويز ڪري ٿو جنهن ۾ ڪمزوريون شامل آهن، ۽ ان کي انجام ڏيڻ جي ضرورت کي به نظر ۾ نٿو رکي. خارجي ڊيٽا جي پروسيسنگ دوران اضافي چيڪ.
پروگرامنگ ۾ مختلف تجربو رکندڙ 47 رضاڪار مطالعي ۾ شامل هئا - شاگردن کان وٺي ڏهن سالن جو تجربو رکندڙ ماهرن تائين. شرڪت ڪندڙن کي ٻن گروپن ۾ ورهايو ويو - تجرباتي (33 ماڻھو) ۽ ڪنٽرول (14 ماڻھو). ٻنهي گروهن کي ڪنهن به لائبريرين ۽ انٽرنيٽ وسيلن تائين رسائي هئي، بشمول اسٽيڪ اوور فلو مان تيار ڪيل مثالن کي استعمال ڪرڻ جي صلاحيت. تجرباتي گروپ کي AI اسسٽنٽ استعمال ڪرڻ جو موقعو ڏنو ويو.
هر شرڪت ڪندڙ کي ڪوڊ لکڻ سان لاڳاپيل 5 ڪم ڏنا ويا جن ۾ اهو ممڪن آهي ته غلطيون ڪرڻ آسان آهي جيڪي نقصان جي ڪري ٿي. مثال طور، انڪريپشن ۽ ڊيڪرپشن افعال لکڻ تي ڪم هئا، ڊجيٽل دستخط استعمال ڪرڻ، پروسيسنگ ڊيٽا جي ٺهڻ ۾ شامل فائل رستا يا SQL سوال، سي ڪوڊ ۾ وڏي انگ کي هٿي ڏيڻ، پروسيسنگ ان پٽ ويب صفحن ۾ ڏيکاريل آهي. AI اسسٽنٽ استعمال ڪرڻ دوران ڪوڊ جي سيڪيورٽي تي پروگرامنگ ٻولين جي اثرن تي غور ڪرڻ لاءِ، اسائنمنٽس کي ڍڪيل Python، C، ۽ JavaScript.
نتيجي طور، اهو معلوم ٿيو ته شرڪت ڪندڙ جيڪي ڪوڊڪس-ڊيونسي-002 ماڊل جي بنياد تي هڪ ذهين AI اسسٽنٽ استعمال ڪندا هئا انهن شرڪت ڪندڙن جي ڀيٽ ۾ خاص طور تي گهٽ محفوظ ڪوڊ تيار ڪيو جيڪي AI اسسٽنٽ استعمال نه ڪندا هئا. مجموعي طور تي، گروپ ۾ شرڪت ڪندڙن مان صرف 67٪ جيڪي AI اسسٽنٽ استعمال ڪندا هئا صحيح ۽ محفوظ ڪوڊ مهيا ڪرڻ جي قابل هئا، جڏهن ته ٻئي گروپ ۾ اهو انگ 79٪ هو.
ساڳي ئي وقت، خود اعتمادي جا اشارا سامهون هئا - شرڪت ڪندڙ جيڪي AI اسسٽنٽ استعمال ڪندا هئا انهن کي يقين آهي ته انهن جو ڪوڊ ٻين گروپ جي شرڪت ڪندڙن کان وڌيڪ محفوظ هوندو. ان کان علاوه، اهو نوٽ ڪيو ويو آهي ته شرڪت ڪندڙ جيڪي AI اسسٽنٽ تي گهٽ ڀروسو ڪندا هئا ۽ وڌيڪ وقت گذاريندا هئا انهن جي تجويزن جو تجزيو ڪرڻ ۽ انهن کي تبديل ڪرڻ ۾ ڪوڊ ۾ گهٽ ڪمزوريون.
مثال طور، cryptographic librarys مان ڪاپي ڪيل ڪوڊ ۾ وڌيڪ محفوظ ڊفالٽ پيٽرول ويلز شامل آھن جيڪي AI اسسٽنٽ جي تجويز ڪيل ڪوڊ کان وڌيڪ آھن. انهي سان گڏ، جڏهن AI اسسٽنٽ استعمال ڪندي، گهٽ قابل اعتماد انڪرپشن الگورتھم جو انتخاب ۽ واپسي قدرن جي تصديق جي چڪاس جي گهٽتائي رڪارڊ ڪئي وئي. هڪ ڪم ۾ جنهن ۾ C ۾ نمبر جي ڦيرڦار شامل هئي، AI اسسٽنٽ استعمال ڪندي ڪوڊ ۾ وڌيڪ غلطيون ڪيون ويون، جنهن جي ڪري انٽيجر اوور فلو ٿي ويو.
اضافي طور تي، اسان نوٽ ڪري سگھون ٿا ھڪڙي ھڪڙي گروپ پاران ھڪڙي ساڳئي مطالعي کي نيو يارڪ يونيورسٽي، نومبر ۾ ڪيو ويو، 58 شاگردن کي شامل ڪيو ويو جن کي سي ٻولي ۾ خريداري جي فهرست کي پروسيس ڪرڻ لاء ھڪڙي جوڙجڪ تي عمل ڪرڻ لاء چيو ويو. نتيجا ڏيکاريا ويا AI اسسٽنٽ جو ڪوڊ سيڪيورٽي تي ٿورو اثر - استعمال ڪندڙ جن AI اسسٽنٽ استعمال ڪيو، سراسري طور تي، اٽڪل 10٪ وڌيڪ سيڪيورٽي سان لاڳاپيل غلطيون.
جو ذريعو: opennet.ru