कोड सुरक्षामा GitHub Copilot जस्ता AI सहायकहरूको प्रभावमा अनुसन्धान गर्नुहोस्

स्ट्यानफोर्ड विश्वविद्यालयका अन्वेषकहरूको टोलीले कोडमा कमजोरीहरूको उपस्थितिमा बौद्धिक कोडिङ सहायकहरू प्रयोग गर्दा प्रभावको अध्ययन गर्‍यो। ओपनएआई कोडेक्स मेसिन लर्निङ प्लेटफर्ममा आधारित समाधानहरू विचार गरिन्थ्यो, जस्तै GitHub Copilot, जसले पर्याप्त जटिल कोड ब्लकहरू, रेडिमेड कार्यहरू सम्मको उत्पादन गर्न अनुमति दिन्छ। चिन्ता यो छ कि सार्वजनिक GitHub रिपोजिटरीहरूबाट वास्तविक कोड, कमजोरीहरू समावेश सहित, मेसिन लर्निङ मोडेललाई तालिम दिन प्रयोग गरिन्छ, संश्लेषित कोडले त्रुटिहरू दोहोर्याउन सक्छ र कमजोरीहरू समावेश गर्ने कोड सुझाव दिन्छ, र प्रदर्शनको आवश्यकतालाई पनि ध्यानमा राख्दैन। बाह्य डाटाको प्रशोधन गर्दा अतिरिक्त जाँचहरू।

प्रोग्रामिङमा फरक-फरक अनुभव भएका ४७ स्वयंसेवकहरू अध्ययनमा संलग्न थिए - दस वर्षको अनुभव भएका विद्यार्थीदेखि पेशेवरहरूसम्म। सहभागीहरूलाई दुई समूहमा विभाजन गरिएको थियो - प्रयोगात्मक (47 व्यक्ति) र नियन्त्रण (33 व्यक्ति)। स्ट्याक ओभरफ्लोबाट तयार उदाहरणहरू प्रयोग गर्ने क्षमता सहित कुनै पनि पुस्तकालयहरू र इन्टरनेट स्रोतहरूमा दुवै समूहहरूको पहुँच थियो। प्रयोगात्मक समूहलाई एआई सहायक प्रयोग गर्ने अवसर दिइएको थियो।

प्रत्येक सहभागीलाई कोड लेख्नेसँग सम्बन्धित ५ कार्यहरू दिइयो जसमा गल्तीहरू गर्न सम्भवतः सजिलो हुन्छ जसले कमजोरीहरू निम्त्याउँछ। उदाहरणका लागि, त्यहाँ ईन्क्रिप्शन र डिक्रिप्शन प्रकार्यहरू लेख्ने कार्यहरू थिए, डिजिटल हस्ताक्षरहरू प्रयोग गरेर, फाइल मार्गहरू वा SQL क्वेरीहरूको गठनमा संलग्न डाटा प्रशोधन गर्ने, C कोडमा ठूलो संख्यामा हेरफेर गर्ने, वेब पृष्ठहरूमा प्रदर्शित इनपुट प्रशोधन गर्ने। एआई सहायकहरू प्रयोग गर्दा उत्पादित कोडको सुरक्षामा प्रोग्रामिङ भाषाहरूको प्रभावलाई विचार गर्न, असाइनमेन्टहरूले पाइथन, सी, र जाभास्क्रिप्टलाई समेट्छ।

नतिजाको रूपमा, यो फेला पर्‍यो कि कोडेक्स-डेभिन्सी-002 मोडेलमा आधारित एक बुद्धिमान एआई सहायक प्रयोग गर्ने सहभागीहरूले एआई सहायक प्रयोग नगर्ने सहभागीहरूको तुलनामा उल्लेखनीय रूपमा कम सुरक्षित कोड तयार गरे। समग्रमा, एआई सहायक प्रयोग गर्ने समूहका सहभागीहरूमध्ये 67% मात्र सही र सुरक्षित कोड प्रदान गर्न सक्षम थिए, जबकि अन्य समूहमा यो संख्या 79% थियो।

एकै समयमा, आत्म-सम्मान सूचकहरू विपरित थिए - सहभागीहरूले AI सहायक प्रयोग गर्ने विश्वास गरे कि उनीहरूको कोड अन्य समूहका सहभागीहरूको भन्दा बढी सुरक्षित हुनेछ। थप रूपमा, यो नोट गरिएको थियो कि सहभागीहरूले AI सहायकलाई कम विश्वास गरे र दिइएका प्रोम्प्टहरूको विश्लेषण गर्न र तिनीहरूलाई परिवर्तन गर्न बढी समय खर्च गरे तिनीहरूले कोडमा कम कमजोरीहरू बनाए।

उदाहरणका लागि, क्रिप्टोग्राफिक पुस्तकालयहरूबाट प्रतिलिपि गरिएको कोडमा एआई सहायकले सुझाव दिएको कोड भन्दा बढी सुरक्षित पूर्वनिर्धारित प्यारामिटर मानहरू समावेश छन्। साथै, एआई सहायक प्रयोग गर्दा, कम भरपर्दो एन्क्रिप्शन एल्गोरिदमहरूको छनोट र फिर्ता मानहरूको प्रमाणीकरण जाँचहरूको कमी रेकर्ड गरिएको थियो। C मा संख्या हेरफेर समावेश गर्ने कार्यमा, एआई सहायक प्रयोग गरेर लेखिएको कोडमा थप त्रुटिहरू बनाइयो, जसले पूर्णाङ्क ओभरफ्लोको नेतृत्व गर्यो।

थप रूपमा, हामीले नोभेम्बरमा आयोजित न्यूयोर्क विश्वविद्यालयको समूहद्वारा गरिएको यस्तै अध्ययनलाई नोट गर्न सक्छौं, जसमा 58 विद्यार्थीहरू समावेश थिए जसलाई सी भाषामा किनमेल सूची प्रशोधन गर्न संरचना लागू गर्न भनिएको थियो। नतिजाहरूले कोड सुरक्षामा AI सहायकको थोरै प्रभाव देखायो - AI सहायक प्रयोग गर्ने प्रयोगकर्ताहरूले औसतमा, लगभग 10% बढी सुरक्षा-सम्बन्धित त्रुटिहरू बनाए।

स्रोत: opennet.ru