Het bedrijf Anthropic heeft de uitbreiding van de AI-modellen Claude Opus 4.6 aangekondigd met mogelijkheden voor het opsporen van kwetsbaarheden in code en heeft de resultaten van een experiment gedeeld waarin meer dan 500 eerder onbekende (0-day) kwetsbaarheden in de laatste versies van verschillende open-source projecten zijn vastgesteld. Het onderzoek was gericht op het opsporen van kwetsbaarheden die veroorzaakt zijn door geheugenproblemen, omdat deze gemakkelijker te verifiƫren zijn. Alle vastgestelde kwetsbaarheden zijn geclassificeerd als hooggeplaatst op het gevaarlijkheidsniveau. Elke kwetsbaarheid is handmatig gecontroleerd en bevestigd door medewerkers van Anthropic of externe beveiligingsonderzoekers.
Voor de analyse van kwetsbaarheden zijn codebases van populaire open-source projecten betrokken, die al geruime tijd continu fuzzing-tests ondergaan via de dienst OSS-Fuzz. In tegenstelling tot fuzzing-tests, waarbij een stroom van willekeurige combinaties van invoergegevens wordt gegenereerd, probeerde het AI-model de code te analyseren met inachtneming van eerdere fixes om vergelijkbare onopgeloste fouten op te sporen, probleempatronen te identificeren en logisch af te leiden welke invoergegevens de uitvoering zouden kunnen verstoren.
Informatie over de tijdens het experiment ontdekte kwetsbaarheden is al begonnen te worden doorgegeven aan de onderhouders, met wie samengewerkt wordt aan het aanbrengen van correcties. Om de onderhouders te helpen, zijn handmatig patches ontwikkeld om de geconstateerde problemen op te lossen. Ter illustratie worden drie kwetsbaarheden in GhostScript, OpenSC en CGIF genoemd, die op het moment van publicatie zijn verholpen door de onderhouders.
De configuratie die werd gebruikt voor het opsporen van problemen leek niet op traditionele systemen voor het automatisch zoeken naar kwetsbaarheden ā het model Claude Opus 4.6 kreeg toegang tot een virtuele machine, waarbij naast de onderzochte code standaard ontwikkeltools (coreutils, Python, enz.) en hulpmiddelen voor het debuggen en analyseren van kwetsbaarheden (waaronder hulpmiddelen voor fuzzing-tests) waren geĆÆnstalleerd. Het model kreeg geen duidelijke instructies voor het gebruik van deze hulpmiddelen en er werden geen speciale informatie over methoden voor het opsporen van kwetsbaarheden verstrekt. Het model kreeg alleen de taak en de mogelijkheid om zelfstandig na te denken over het optimale gebruik van de beschikbare hulpmiddelen.
Bij het zoeken naar kwetsbaarheden in GhostScript probeerde het AI-model aanvankelijk fuzzing-tests uit te voeren, maar toen dit geen resultaat opleverde, schakelde het over op code-analyse. Ook de code-analyse leverde geen resultaten op, waarna het model de wijzigingsgeschiedenis in git begon te bestuderen. In een van de commits merkte het een vermelding op van grenscontroles van buffers. Na het bestuderen van de commit concludeerde het model dat de correctie een ontbrekende controle op de buffergrens toevoegde bij het verwerken van lettertypen.
Vervolgens identificeerde het model de code die vĆ³Ć³r de correctie aanwezig was en probeerde het vergelijkbare gebruikspatronen van de problematische functie in de overige code te vinden, die onveranderd waren gebleven. Uiteindelijk werd in het bestand gdevpsfx.c een aanroep van de functie gs_type1_blend ontdekt zonder controle op de geldigheid van de waarden. Tot slot heeft het model de inhoud van het bestand samengesteld, waarvan de verwerking leidde tot een crash door het schrijven van gegevens buiten de toegewezen buffer.
Bij CGIF baseerde het AI-model zich op het feit dat bij het decomprimeren van GIF-bestanden de bibliotheek aannam dat de grootte van de gecomprimeerde gegevens altijd kleiner was dan die van de gedecomprimeerde gegevens. De zoektocht naar kwetsbaarheden concentreerde zich op het definiƫren van de voorwaarden waaronder de door het LZW-algoritme gecomprimeerde gegevens groter zouden zijn dan de gedecomprimeerde. Dergelijke voorwaarden werden gevonden en het AI-model was in staat om een GIT-bestand te vormen, waarvan de verwerking leidde tot een bufferoverloop. In OpenSC werd het probleem ontdekt na de analyse van het gebruik van potentieel gevaarlijke functies zoals strrchr en strcat.
Er wordt opgemerkt dat taalmodele nu in staat zijn om eerder onbekende kwetsbaarheden te identificeren, en dat ze binnenkort experts op het gebied van beveiliging zullen overtreffen in snelheid en schaal van het zoeken naar kwetsbaarheden. Wordt verondersteld dat de toename van het aantal geconstateerde kwetsbaarheden een hervorming van de bestaande processen voor openbaarmaking zal vereisen, aangezien de huidige 90 dagen die voor correcties zijn toegewezen, niet voldoende zullen zijn.
Bron: opennet.ru
