কোড সিকিউরিটিতে গিটহাব কপিলটের মতো এআই সহকারীর প্রভাব অন্বেষণ করা

স্ট্যানফোর্ড ইউনিভার্সিটির একদল গবেষক কোডে দুর্বলতার উপস্থিতির উপর কোড লেখার সময় বুদ্ধিমান সহকারী ব্যবহার করার প্রভাব অধ্যয়ন করেছেন। আমরা OpenAI কোডেক্স মেশিন লার্নিং প্ল্যাটফর্মের উপর ভিত্তি করে সমাধান বিবেচনা করেছি, যেমন GitHub Copilot, যা আপনাকে মোটামুটি জটিল কোড ব্লক তৈরি করতে দেয়, রেডিমেড ফাংশন পর্যন্ত। উদ্বেগগুলি এই সত্যের সাথে সম্পর্কিত যে যেহেতু দুর্বলতাগুলি সহ পাবলিক গিটহাব রিপোজিটরির আসল কোডগুলি মেশিন লার্নিং মডেলকে প্রশিক্ষণের জন্য ব্যবহার করা হয়েছিল, তাই সংশ্লেষিত কোডটি ত্রুটিগুলি পুনরাবৃত্তি করতে পারে এবং দুর্বলতা ধারণ করে এমন কোডের পরামর্শ দিতে পারে এবং এটিও বিবেচনায় নেয় না। বাহ্যিক ডেটা প্রক্রিয়া করার সময় অতিরিক্ত চেক করার প্রয়োজন।

এই গবেষণায় 47 জন স্বেচ্ছাসেবককে প্রোগ্রামিং-এ বিভিন্ন অভিজ্ঞতা রয়েছে - ছাত্র থেকে শুরু করে পেশাদারদের মধ্যে দশ বছরের অভিজ্ঞতা রয়েছে। অংশগ্রহণকারীদের দুটি গ্রুপে বিভক্ত করা হয়েছিল - পরীক্ষামূলক (33 জন) এবং নিয়ন্ত্রণ (14 জন)। স্ট্যাক ওভারফ্লো থেকে তৈরি উদাহরণ ব্যবহার করা সহ উভয় গ্রুপেরই যেকোন লাইব্রেরি এবং ইন্টারনেট সংস্থানগুলিতে অ্যাক্সেস ছিল। পরীক্ষামূলক গোষ্ঠীকে এআই সহকারী ব্যবহারের সুযোগ দেওয়া হয়েছিল।

প্রতিটি অংশগ্রহণকারীকে কোড লেখার সাথে সম্পর্কিত 5টি টাস্ক দেওয়া হয়েছিল যাতে ভুলগুলি করা সম্ভাব্য সহজ যা দুর্বলতার দিকে পরিচালিত করে। উদাহরণস্বরূপ, এনক্রিপশন এবং ডিক্রিপশন ফাংশন লেখার কাজ ছিল, ডিজিটাল স্বাক্ষর ব্যবহার করে, ফাইল পাথ বা এসকিউএল কোয়েরি তৈরিতে জড়িত ডেটা প্রক্রিয়াকরণ, সি কোডে বড় সংখ্যক ম্যানিপুলেট করা, ওয়েব পৃষ্ঠাগুলিতে প্রদর্শিত ইনপুট প্রক্রিয়াকরণ। এআই সহকারী ব্যবহার করার সময় প্রাপ্ত কোডের নিরাপত্তার উপর প্রোগ্রামিং ভাষার প্রভাব বিবেচনা করার জন্য, অ্যাসাইনমেন্টগুলি পাইথন, সি এবং জাভাস্ক্রিপ্টকে কভার করে।

ফলস্বরূপ, এটি পাওয়া গেছে যে অংশগ্রহণকারীরা কোডেক্স-ডেভিন্সি-002 মডেলের উপর ভিত্তি করে একটি বুদ্ধিমান এআই সহকারী ব্যবহার করেছে তারা AI সহকারী ব্যবহার করেনি এমন অংশগ্রহণকারীদের তুলনায় উল্লেখযোগ্যভাবে কম সুরক্ষিত কোড তৈরি করেছে। সাধারণভাবে, এআই সহকারী ব্যবহার করে গ্রুপের অংশগ্রহণকারীদের মধ্যে মাত্র 67% একটি সঠিক এবং সুরক্ষিত কোড প্রদান করতে সক্ষম হয়েছিল, অন্য গ্রুপে এই সংখ্যা ছিল 79%।

একই সময়ে, স্ব-সম্মান সূচকগুলি বিপরীত ছিল - অংশগ্রহণকারীরা যারা এআই সহকারী ব্যবহার করেছিল তারা বিশ্বাস করেছিল যে তাদের কোড অন্য গ্রুপের অংশগ্রহণকারীদের তুলনায় বেশি সুরক্ষিত হবে। এছাড়াও, এটি উল্লেখ করা হয়েছিল যে অংশগ্রহণকারীরা যারা AI সহকারীকে কম বিশ্বাস করেছিল এবং প্রদত্ত ইঙ্গিতগুলিতে পার্সিং এবং পরিবর্তন করতে বেশি সময় ব্যয় করেছিল তারা কোডে কম দুর্বলতা তৈরি করেছিল।

উদাহরণস্বরূপ, ক্রিপ্টোগ্রাফিক লাইব্রেরি থেকে কপি করা কোডটিতে AI সহকারীর দ্বারা প্রস্তাবিত কোডের চেয়ে বেশি সুরক্ষিত ডিফল্ট প্যারামিটার মান রয়েছে। এছাড়াও, এআই সহকারী ব্যবহার করার সময়, কম নির্ভরযোগ্য এনক্রিপশন অ্যালগরিদমের পছন্দ এবং প্রত্যাবর্তিত মানগুলির প্রমাণীকরণের অনুপস্থিতি স্থির করা হয়েছিল। সি নম্বর ম্যানিপুলেশন টাস্কে, এআই অ্যাসিস্ট্যান্ট ব্যবহার করে লেখা কোডে আরও ত্রুটি ছিল যার ফলে পূর্ণসংখ্যা ওভারফ্লো হয়।

এছাড়াও, নিউ ইয়র্ক ইউনিভার্সিটির একটি গ্রুপের অনুরূপ সমীক্ষা, 58 জন শিক্ষার্থীর সম্পৃক্ততার সাথে নভেম্বরে পরিচালিত হয়েছিল, যাদের সি-তে একটি শপিং তালিকা প্রক্রিয়াকরণের জন্য একটি কাঠামো বাস্তবায়ন করতে বলা হয়েছিল, উল্লেখ করা যেতে পারে। ফলাফলগুলি কোড সুরক্ষার উপর AI সহকারীর একটি নগণ্য প্রভাব দেখিয়েছে - যে ব্যবহারকারীরা AI সহকারী ব্যবহার করেছেন, তারা গড়ে প্রায় 10% বেশি নিরাপত্তা-সম্পর্কিত ত্রুটি করেছেন।

উত্স: opennet.ru