Кампанія Anthropic прадставіла праект Glasswing, у рамках якога падасць доступ да папярэдняга варыянту AI-мадэлі Claude Mythos з мэтай выяўлення ўразлівасцяў і падвышэнні бяспекі крытычна важнага праграмнага забеспячэння. У лік удзельнікаў праекту ўключаная арганізацыя Linux Foundation, а таксама кампаніі Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Microsoft, NVIDIA і Palo Alto Networks. Запрашэнні прыняць удзел у праекце таксама атрымалі яшчэ каля 40 арганізацый.
Выпушчаная ў лютым AI-мадэль Claude Opus 4.6 дасягнула новага якаснага ўзроўню ў такіх галінах, як выяўленне ўразлівасцяў, пошук і выпраўленне памылак, рэцэнзаванне змен і генерацыя кода. Эксперыменты з дадзенай AI-мадэллю дазволілі выявіць больш за 500 уразлівасцяў у адкрытых праектах, і згенераваць Сі-кампілятар, здольны сабраць ядро Linux. Пры гэтым мадэль Claude Opus 4.6 слаба спраўлялася з працай па стварэнні працоўных эксплоітаў.
Мадэль наступнага пакалення Claude Mythos па заяве Anthropic кардынальна апярэджвае Claude Opus 4.6 у вобласці напісання гатовых эксплоітаў. З некалькіх сотняў спроб стварэння эксплоітаў для ўразлівасцяў, выяўленых у JavaScript-рухавічку Firefox 147, у Claude Opus 4.6 толькі дзве спробы ўвянчаліся поспехам. Пры паўтарэнні эксперыменту з выкарыстаннем папярэдняга варыянту мадэлі Mythos працоўныя эксплоіты ўдалося стварыць 181 раз – працэнт стварэння паспяховых эксплоітаў вырас з калянулявых значэнняў да 72.4%.
Апроч гэтага ў Claude Mythos істотна пашыраныя магчымасці па пошуку памылак і ўразлівасцяў, што ў спалучэнні з прыдатнасцю для распрацоўкі эксплоітаў стварае новыя рызыкі для індустрыі – эксплоіты для яшчэ нявыпраўленых уразлівасцяў (0-day) могуць стварацца непрафесіяналамі за лічаныя гадзіны. Адзначаецца, што ўзровень магчымасцяў мадэлі Mythos па пошуку і эксплуатацыі ўразлівасцяў дасягнуў прафесійнай якасці і пакуль не дацягвае толькі да найболей дасведчаных прафесіяналаў.
Так як адкрыццё неабмежаванага доступу да AI-мадэлі з падобнымі магчымасці патрабуе падрыхтоўкі індустрыі, вырашана спачатку адкрыць доступ да папярэдняй рэдакцыі вузкаму кругу экспертаў для правядзення працы па пошуку і ўхіленню ўразлівасцяў у крытычных важных праграмных прадуктах і адчыненым ПА. Для фінансавання правядзення ініцыятывы выдзелена субсідыя на аплату токенаў, памерам 100 млн долараў, а таксама вырашана размеркаваць 4 млн долараў у якасці ахвяраванняў арганізацыям, якія займаюцца падтрыманнем бяспекі адкрытых праектаў.
У тэставым наборы CyberGym, які ацэньвае здольнасць мадэляў выяўляць уразлівасці, мадэль Mythos паказала ўзровень 83.1%, а Opus 4.6 – 66.6%. У тэстах на якасць напісання кода мадэлі прадэманстравалі наступныя паказчыкі:
Падчас эксперыменту кампанія Anthropic за некалькі тыдняў пры дапамозе AI-мадэлі Mythos змагла выявіць некалькі тысяч раней невядомых (0-day) уразлівасцяў, шматлікія з якіх адзначаны як крытычныя. Сярод іншага была знойдзена 27 гадоў якая заставалася незаўважанай уразлівасць у TCP-стэку OpenBSD, якая дазваляе выдалена ініцыяваць аварыйнае завяршэнне працы сістэмы. Таксама знойдзена існавалая 16 гадоў уразлівасць у рэалізацыі кодэка H.264 ад праекту FFmpeg, і ўразлівасці ў кодэках H.265 і av1, эксплуатаваныя пры апрацоўцы адмыслова аформленага кантэнту.
У ядры Linux выяўлена некалькі ўразлівасцяў, якія дазваляюць непрывілеяванаму карыстачу атрымаць правы root. Звязванне выяўленых уразлівасцяў у ланцужок дало магчымасць стварыць эксплоіты, якія дазваляюць дамагчыся атрыманні мае рацыю root пры адкрыцці адмысловых старонак у web-браўзэры. Таксама створаны эксплоіт, які дазволіў выканаць код з правамі root праз адпраўку спецыяльна аформленых сеткавых пакетаў на NFS-сервер са складу FreeBSD.
У адной з сістэм віртуалізацыі, напісанай на мове, які прадстаўляе сродкі для бяспечнай працы з памяццю, выяўленая ўразлівасць, патэнцыйна якая дазваляе праз маніпуляцыі ў гасцёўні сістэме выканаць код на боку хаста (назоў не прыводзіцца, бо праблема яшчэ не выпраўленая, але судзячы па ўсім уразлівасць прысутнічае ў uns. Знойдзены ўразлівасці ва ўсіх папулярных web-браўзэрах і крыптаграфічных бібліятэках. Выяўлены ўразлівасці, якія прыводзяць да падстаноўкі SQL-кода, у розных web-прыкладаннях.
Крыніца: opennet.ru
