AI સાધનો દ્વારા તૈયાર કરવામાં આવેલ નબળાઈના અહેવાલોને કારણે સમસ્યાઓ

ડેનિયલ સ્ટેનબર્ગ, નેટવર્ક કર્લ પર ડેટા પ્રાપ્ત કરવા અને મોકલવા માટેની ઉપયોગિતાના લેખક, નબળાઈ અહેવાલો બનાવતી વખતે AI સાધનોના ઉપયોગની ટીકા કરી હતી. આવા અહેવાલોમાં વિગતવાર માહિતીનો સમાવેશ થાય છે, સામાન્ય ભાષામાં લખવામાં આવે છે અને ઉચ્ચ-ગુણવત્તાવાળા દેખાય છે, પરંતુ વાસ્તવમાં વિચારશીલ વિશ્લેષણ વિના તેઓ માત્ર ભ્રામક હોઈ શકે છે, વાસ્તવિક સમસ્યાઓને ઉચ્ચ-ગુણવત્તાવાળી દેખાતી કચરા સામગ્રી સાથે બદલી શકે છે.

કર્લ પ્રોજેક્ટ નવી નબળાઈઓને ઓળખવા માટે પુરસ્કારો ચૂકવે છે અને સંભવિત સમસ્યાઓના 415 અહેવાલો પહેલેથી જ પ્રાપ્ત થયા છે, જેમાંથી માત્ર 64 નબળાઈઓ તરીકે અને 77 બિન-સુરક્ષા ભૂલો તરીકે પુષ્ટિ મળી છે. આમ, તમામ અહેવાલોમાંથી 66% કોઈ ઉપયોગી માહિતી ધરાવતું ન હતું અને માત્ર વિકાસકર્તાઓ પાસેથી સમય કાઢી લીધો હતો જે કંઈક ઉપયોગી કરવા માટે ખર્ચી શકાયો હોત.

વિકાસકર્તાઓને નકામા અહેવાલોનું વિશ્લેષણ કરવામાં ઘણો સમય બગાડવો પડે છે અને તેમાં રહેલી માહિતીને ઘણી વખત બે વાર તપાસવામાં આવે છે, કારણ કે ડિઝાઇનની બાહ્ય ગુણવત્તા માહિતીમાં વધારાનો વિશ્વાસ બનાવે છે અને એવી લાગણી છે કે વિકાસકર્તા કંઈક ગેરસમજ કરે છે. બીજી બાજુ, આવો અહેવાલ જનરેટ કરવા માટે અરજદાર તરફથી ન્યૂનતમ પ્રયત્નોની જરૂર પડે છે, જે વાસ્તવિક સમસ્યાની તપાસ કરવાની તસ્દી લેતા નથી, પરંતુ પુરસ્કાર મેળવવા માટેના સંઘર્ષમાં નસીબની આશા રાખીને, AI સહાયકો પાસેથી મળેલા ડેટાની આંખ આડા કાન કરે છે.

આવા કચરાના અહેવાલોના બે ઉદાહરણો આપવામાં આવ્યા છે. ખતરનાક ઑક્ટોબર નબળાઈ (CVE-2023-38545) વિશેની માહિતીના આયોજિત જાહેરાતના એક દિવસ પહેલા, હેકરન દ્વારા એક રિપોર્ટ મોકલવામાં આવ્યો હતો કે ફિક્સ સાથેનો પેચ સાર્વજનિક રીતે ઉપલબ્ધ થઈ ગયો છે. વાસ્તવમાં, રિપોર્ટમાં સમાન સમસ્યાઓ વિશેના તથ્યોનું મિશ્રણ અને ભૂતકાળની નબળાઈઓ વિશેની વિગતવાર માહિતીના સ્નિપેટ્સ Google ના AI સહાયક બાર્ડ દ્વારા સંકલિત કરવામાં આવ્યા હતા. પરિણામે, માહિતી નવી અને સુસંગત દેખાતી હતી, અને વાસ્તવિકતા સાથે તેનો કોઈ સંબંધ નહોતો.

બીજું ઉદાહરણ 28 ડિસેમ્બરે વેબસોકેટ હેન્ડલરમાં બફર ઓવરફ્લો વિશે પ્રાપ્ત થયેલા સંદેશની ચિંતા કરે છે, જે એક વપરાશકર્તા દ્વારા મોકલવામાં આવ્યો હતો જેણે હેકરન દ્વારા નબળાઈઓ વિશે પહેલાથી જ વિવિધ પ્રોજેક્ટ્સને જાણ કરી હતી. સમસ્યાનું પુનઃઉત્પાદન કરવાની પદ્ધતિ તરીકે, અહેવાલમાં strcpy સાથે નકલ કરતી વખતે ઉપયોગમાં લેવાતા બફરના કદ કરતાં મોટા મૂલ્ય સાથે સંશોધિત વિનંતી પસાર કરવા વિશે સામાન્ય શબ્દોનો સમાવેશ થાય છે. રિપોર્ટમાં સુધારણાનું ઉદાહરણ પણ આપવામાં આવ્યું છે (strcpy ને strncpy સાથે બદલવાનું ઉદાહરણ) અને કોડની લાઇનની લિંક "strcpy(keyval, randstr)" સૂચવવામાં આવી છે, જેમાં, અરજદારના જણાવ્યા મુજબ, ભૂલ હતી.

વિકાસકર્તાએ ત્રણ વખત બધું બે વાર તપાસ્યું અને કોઈ સમસ્યા મળી ન હતી, પરંતુ અહેવાલ વિશ્વાસપૂર્વક લખવામાં આવ્યો હોવાથી અને તેમાં સુધારો પણ હતો, એવી લાગણી હતી કે ક્યાંક કંઈક ખૂટે છે. સંશોધક strcpy કૉલ પહેલાં હાજર સ્પષ્ટ કદની તપાસને કેવી રીતે બાયપાસ કરવામાં વ્યવસ્થાપિત થયા અને કેવી રીતે કીવલ બફરનું કદ વાંચેલા ડેટાના કદ કરતાં ઓછું હોવાનું બહાર આવ્યું તે સ્પષ્ટ કરવાનો પ્રયાસ વિગતવાર, પરંતુ વધારાની માહિતી, સ્પષ્ટતા ધરાવતો નથી. જે ચોક્કસ કર્લ કોડ સાથે સંબંધિત ન હોય તેવા બફર ઓવરફ્લોના સ્પષ્ટ સામાન્ય કારણોને જ ચાવે છે. જવાબો એઆઈ સહાયક સાથે વાતચીત કરવાની યાદ અપાવે છે, અને સમસ્યા પોતે કેવી રીતે પ્રગટ થાય છે તે શોધવાના અર્થહીન પ્રયાસો પર અડધો દિવસ પસાર કર્યા પછી, વિકાસકર્તાને આખરે ખાતરી થઈ ગઈ કે હકીકતમાં કોઈ નબળાઈ નથી.

સોર્સ: opennet.ru