{"id":112715,"date":"2024-01-05T21:10:15","date_gmt":"2024-01-05T19:10:15","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/problemy-iz-za-podgotovlennyh-ai-instrumentami-otchyotov-ob-uyazvimostyah"},"modified":"2024-01-05T21:10:15","modified_gmt":"2024-01-05T19:10:15","slug":"problemy-iz-za-podgotovlennyh-ai-instrumentami-otchyotov-ob-uyazvimostyah","status":"publish","type":"post","link":"https:\/\/prohoster.info\/sv\/blog\/news\/problemy-iz-za-podgotovlennyh-ai-instrumentami-otchyotov-ob-uyazvimostyah","title":{"rendered":"Problem p\u00e5 grund av rapporter om s\u00e5rbarheter skapade av AI-verktyg","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

Daniel Stenberg, skaparen av verktyget f\u00f6r att h\u00e4mta och skicka data \u00f6ver n\u00e4tet, curl, har kritiserat anv\u00e4ndningen av AI-verktyg n\u00e4r man skapar s\u00e5rbarhetsrapporter. S\u00e5dana rapporter inneh\u00e5ller detaljerad information, \u00e4r skrivna p\u00e5 ett begripligt spr\u00e5k och ser professionella ut, men utan noggrant analys kan de faktiskt bara leda till missf\u00f6rst\u00e5nd, ers\u00e4tta verkliga problem med kvalitativt utseende skr\u00e4pinneh\u00e5ll. <\/p>\n

Curl-projektet betalar bel\u00f6ningar f\u00f6r att identifiera nya s\u00e5rbarheter och har redan f\u00e5tt 415 rapporter om potentiella problem, av vilka endast 64 bekr\u00e4ftades som s\u00e5rbarheter, och 77 som icke-s\u00e4kerhetsrelaterade fel. D\u00e4rmed inneh\u00f6ll 66 % av alla rapporter inga anv\u00e4ndbara uppgifter och tog bara tid fr\u00e5n utvecklarna som kunde ha anv\u00e4nts b\u00e4ttre. <\/p>\n

Utvecklarna tvingas sl\u00f6sa mycket tid p\u00e5 att g\u00e5 igenom meningsl\u00f6sa rapporter och verifiera de angivna uppgifterna flera g\u00e5nger, eftersom den externa kvalit\u00e9n p\u00e5 presentationen ger ett extra f\u00f6rtroende f\u00f6r informationen och skapar en k\u00e4nsla av att utvecklaren har missf\u00f6rst\u00e5tt n\u00e5got. \u00c5 andra sidan kr\u00e4ver skapandet av en s\u00e5dan rapport minimala anstr\u00e4ngningar fr\u00e5n anm\u00e4lare, som inte besv\u00e4rar sig med att kontrollera f\u00f6rekomsten av ett verkligt problem, utan bara blint kopierar data fr\u00e5n AI-assistenter, i hopp om tur i kampen om att f\u00e5 bel\u00f6ningen. <\/p>\n

Tv\u00e5 exempel p\u00e5 s\u00e5dana skr\u00e4prapporter ges. Dagen f\u00f6re det planerade avsl\u00f6jandet av information om en oktoberrelaterad s\u00e5rbarhet (CVE-2023-38545) skickades en rapport via Hackerone som p\u00e5stod att fixet hade blivit offentligt. I sj\u00e4lva verket inneh\u00f6ll rapporten en AI-genererad blandning av fakta om liknande problem och utdrag fr\u00e5n detaljerade upplysningar om tidigare s\u00e5rbarheter. Resultatet var att informationen verkade ny och relevant, men hade inget att g\u00f6ra med verkligheten. <\/p>\n

\u0412\u0442\u043e\u0440\u043e\u0439 \u043f\u0440\u0438\u043c\u0435\u0440 \u0437\u0430\u0442\u0440\u0430\u0433\u0438\u0432\u0430\u0435\u0442 \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u043e\u0435 28 \u0434\u0435\u043a\u0430\u0431\u0440\u044f \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435 \u043e \u043f\u0435\u0440\u0435\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0438 \u0431\u0443\u0444\u0435\u0440\u0430 \u0432 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u0435 WebSocket, \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u043e\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u043c, \u0443\u0436\u0435 \u0438\u043d\u0444\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u0432\u0448\u0438\u043c \u043e\u0431 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u044f\u0445 \u0440\u0430\u0437\u043d\u044b\u0435 \u043f\u0440\u043e\u0435\u043a\u0442\u044b \u0447\u0435\u0440\u0435\u0437 Hackerone. \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043c\u0435\u0442\u043e\u0434\u0430 \u043f\u043e\u0432\u0442\u043e\u0440\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b \u0432 \u043e\u0442\u0447\u0451\u0442\u0435 \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u043b\u0438\u0441\u044c \u043e\u0431\u0449\u0438\u0435 \u0441\u043b\u043e\u0432\u0430 \u043e \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0435 \u0438\u0437\u043c\u0435\u043d\u0451\u043d\u043d\u043e\u0433\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0441 \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u043c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f, \u043f\u0440\u0435\u0432\u044b\u0448\u0430\u044e\u0449\u0435\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0443\u0444\u0435\u0440\u0430, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u043e\u0433\u043e \u043f\u0440\u0438 \u043a\u043e\u043f\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 \u043f\u0440\u0438 \u043f\u043e\u043c\u043e\u0449\u0438 strcpy. \u0412 \u043e\u0442\u0447\u0451\u0442\u0435 \u0442\u0430\u043a\u0436\u0435 \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u043b\u0441\u044f \u043f\u0440\u0438\u043c\u0435\u0440 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f (\u043f\u0440\u0438\u043c\u0435\u0440 \u0437\u0430\u043c\u0435\u043d\u044b strcpy \u043d\u0430 strncpy) \u0438 \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u043b\u0430\u0441\u044c \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u0441\u0442\u0440\u043e\u043a\u0443 \u043a\u043e\u0434\u0430 «strcpy(keyval, randstr)», \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043f\u043e \u043c\u043d\u0435\u043d\u0438\u044e \u0437\u0430\u044f\u0432\u0438\u0442\u0435\u043b\u044f \u0431\u044b\u043b\u0430 \u043e\u0448\u0438\u0431\u043a\u0430. <\/p>\n

Utvecklaren kontrollerade allt tre g\u00e5nger men hittade inga problem. Eftersom rapporten skrevs p\u00e5 ett \u00f6vertygande s\u00e4tt och till och med inneh\u00f6ll en l\u00f6sning, gav det en k\u00e4nsla av att n\u00e5got hade missats. F\u00f6rs\u00f6ket att klarg\u00f6ra hur forskaren lyckades kringg\u00e5 den uppenbara storlekskontrollen f\u00f6re anropet till strcpy och hur buffertens storlek keyval blev mindre \u00e4n storleken p\u00e5 de l\u00e4sta data ledde till detaljerade men inte s\u00e4rskilt informativa f\u00f6rklaringar som bara upprepade allm\u00e4nna orsaker till buffert\u00f6verskridning, som inte var relaterade till den specifika Curl-koden. Svaren p\u00e5minde om kommunikation med en AI-assistent och efter att ha spenderat halva dagen p\u00e5 meningsl\u00f6sa f\u00f6rs\u00f6k att ta reda p\u00e5 hur problemet faktiskt manifesterar sig, var utvecklaren slutligen \u00f6vertygad om att det inte fanns n\u00e5gon s\u00e5rbarhet i verkligheten.
\n
K\u00e4lla: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"

\u0414\u044d\u043d\u0438\u0435\u043b C\u0442\u0435\u043d\u0431\u0435\u0440\u0433 (Daniel Stenberg), \u0430\u0432\u0442\u043e\u0440 \u0443\u0442\u0438\u043b\u0438\u0442\u044b \u0434\u043b\u044f \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 \u043f\u043e \u0441\u0435\u0442\u0438 curl, \u0432\u044b\u0441\u0442\u0443\u043f\u0438\u043b \u0441 \u043a\u0440\u0438\u0442\u0438\u043a\u043e\u0439 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f AI-\u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u043f\u0440\u0438 \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u0438 \u043e\u0442\u0447\u0451\u0442\u043e\u0432 \u043e\u0431 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u044f\u0445. \u041f\u043e\u0434\u043e\u0431\u043d\u044b\u0435 \u043e\u0442\u0447\u0451\u0442\u044b \u0432\u043a\u043b\u044e\u0447\u0430\u044e\u0442 \u0434\u0435\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0441\u0432\u0435\u0434\u0435\u043d\u0438\u044f, \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u044b \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u044b\u043c \u044f\u0437\u044b\u043a\u043e\u043c \u0438 \u0432\u044b\u0433\u043b\u044f\u0434\u044f\u0442 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u043c\u0438, \u043d\u043e \u0431\u0435\u0437 \u0432\u0434\u0443\u043c\u0447\u0438\u0432\u043e\u0433\u043e \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u043d\u0430 \u0434\u0435\u043b\u0435 \u043c\u043e\u0433\u0443\u0442 \u043b\u0438\u0448\u044c \u0432\u0432\u043e\u0434\u0438\u0442\u044c \u0432 \u0437\u0430\u0431\u043b\u0443\u0436\u0434\u0435\u043d\u0438\u0435, \u043f\u043e\u0434\u043c\u0435\u043d\u044f\u044f \u0440\u0435\u0430\u043b\u044c\u043d\u044b\u0435 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0432\u044b\u0433\u043b\u044f\u0434\u044f\u0449\u0438\u043c \u043c\u0443\u0441\u043e\u0440\u043d\u044b\u043c \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u043c\u044b\u043c. \u041f\u0440\u043e\u0435\u043a\u0442 Curl […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-112715","post","type-post","status-publish","format-standard","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\n","aioseo_head_json":{"title":"\ud83e\udd47Problem p\u00e5 grund av rapporter om s\u00e5rbarheter skapade av AI-verktyg | ProHoster","description":"Daniel Stenberg, skaparen av verktyget f\u00f6r att h\u00e4mta och skicka data \u00f6ver n\u00e4tverket curl, har kritiserat anv\u00e4ndningen av AI-verktyg vid skapandet av rapporter om s\u00e5rbarheter.","canonical_url":"https:\/\/prohoster.info\/sv\/blog\/news\/problemy-iz-za-podgotovlennyh-ai-instrumentami-otchyotov-ob-uyazvimostyah","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"sv_SE","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u044b \u0438\u0437-\u0437\u0430 \u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043b\u0435\u043d\u043d\u044b\u0445 AI-\u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430\u043c\u0438 \u043e\u0442\u0447\u0451\u0442\u043e\u0432 \u043e\u0431 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u044f\u0445 | ProHoster","og:description":"\u0414\u044d\u043d\u0438\u0435\u043b C\u0442\u0435\u043d\u0431\u0435\u0440\u0433 (Daniel Stenberg), \u0430\u0432\u0442\u043e\u0440 \u0443\u0442\u0438\u043b\u0438\u0442\u044b \u0434\u043b\u044f \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 \u043f\u043e \u0441\u0435\u0442\u0438 curl, \u0432\u044b\u0441\u0442\u0443\u043f\u0438\u043b \u0441 \u043a\u0440\u0438\u0442\u0438\u043a\u043e\u0439 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f AI-\u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u043f\u0440\u0438 \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u0438 \u043e\u0442\u0447\u0451\u0442\u043e\u0432 \u043e\u0431 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u044f\u0445.","og:url":"https:\/\/prohoster.info\/sv\/blog\/news\/problemy-iz-za-podgotovlennyh-ai-instrumentami-otchyotov-ob-uyazvimostyah","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2024-01-05T19:10:15+00:00","article:modified_time":"2024-01-05T19:10:15+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":[],"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/posts\/112715","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/comments?post=112715"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/posts\/112715\/revisions"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/media?parent=112715"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/categories?post=112715"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/tags?post=112715"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}