Intervju med Greg Kroa-Hartman om AI-genererade felrapporter

På konferensen KubeCon Europe intervjuade The Register Greg Kroah-Hartman, som ansvarar för att stödja stabila och "staging" grenar av kärnan Linux, och som är huvudmaintainer för 16 delsystem i kärnan. I intervjun diskuteras Gregs syn på rapporter om fel som upptäckts av AI. AI används redan i kärnan för att granska ändringar i nätverksdelsystemet, eBPF och DRM, och nyligen har verktyget Sashiko från Google integrerats för att kontrollera inskickade ändringar.

Några av Gregs uttalanden:

• „För några månader sedan fick vi det vi kallade AI-skräp – AI-genererade säkerhetsrapporter som uppenbarligen var felaktiga eller av låg kvalitet. Det var till och med roligt. Vi brydde oss inte särskilt mycket om det... För en månad sedan skedde något och situationen förändrades dramatiskt. Nu får vi riktiga rapporter.”
• „En liknande situation observeras inte bara i Linux – alla projekt med öppen källkod får riktiga rapporter som skapats med hjälp av AI, och nu är de av hög kvalitet och giltiga. Team som ansvarar för säkerhet i de största open-source-projekten upptäcker i informella samtal att samma tendens gäller.”
• När han tillfrågades om orsaken svarade Greg: „Vi vet inte. Det verkar som om ingen vet. Antingen har många verktyg blivit mycket bättre, eller så har folk börjat säga: 'Hej, låt oss ta itu med detta.' Det verkar som om detta påverkar en mängd olika grupper och företag. När det gäller kärnan så klarar vi detta. Vårt team har blivit mycket större, och det är spritt över hela världen, och vår tillväxt är en verklighet och den avstannar inte. Det är småsaker, inget allvarligt, men hjälp kan behövas för alla open-source-projekt. Små projekt har mycket mindre kapacitet att hantera den plötsliga ökningen av rapporter om fel och sårbarheter som genererats av AI, som nämner verkliga fel snarare än skräp.”
• Greg berättade att när han bad AI att hitta fel i det föreslagna ändringspaketet — så hittade den 60 stycken och gav patchar för att åtgärda dem. Endast en tredjedel av de hittade felen var faktiskt fel, och av patcharna var endast 2/3 relevanta lösningar som inte krävde ytterligare arbete, men allt detta var långt ifrån värdelöst. Enligt Greg kan inte upprätthållarna ignorera detta, speciellt eftersom AI:s resultat blir allt bättre. För att markera patcharna som skapats med hjälp av AI, har en tagg “Co-developed:” lagts till. Trots vissa försök att använda AI för att skapa ny funktionalitet används AI i kärnan för närvarande främst vid granskning av ändringar.
• En av de mest påtagliga fördelarna med AI sägs vara minskningen av tiden för att bearbeta patchar. När AI-assistenten identifierar uppenbara problem får patchförfattarna feedback långt innan den verkliga upprätthållaren skulle hinna läsa patchen: “Om jag ser att systemet reagerar på något, ger det feedback till författaren snabbare än en upprätthållare skulle ha gjort, och det är fantastiskt. Vi har redan en rad bottar som kontrollerar patchar. Om jag märker att de ger ett fel vet jag genast att jag som upprätthållare inte ens behöver titta på det. Och utvecklaren tänker 'Åh, jag kan göra en annan version imorgon', vilket hjälper till att förbättra feedbacken lite.”

Källa: opennet.ru