Rozhovor s Gregom Kroahom-Hartmanom o hláseniach o chybách generovaných umelou inteligenciou

Na konferencii KubeCon Europe viedol denník The Register rozhovor s Gregom Kroahom-Hartmanom, ktorý spravuje stabilnú a prechodnú vetvu linuxového jadra a zároveň spravuje 16 subsystémov jadra. Rozhovor sa zaoberá Kroah-Hartmanovým prístupom k hláseniam chýb pomocou umelej inteligencie. Umelá inteligencia sa už v jadre používa na kontrolu zmien v sieťovom subsystéme, eBPF a DRM a nedávno bol integrovaný aj nástroj Sashiko od spoločnosti Google na kontrolu odoslaných zmien.

Niektoré z Gregových citátov:

  • „Pred niekoľkými mesiacmi sme dostávali to, čo sme nazývali AI odpadom – bezpečnostné správy generované AI, ktoré boli evidentne nesprávne alebo nízkej kvality. Bolo to dokonca vtipné. Nerobili sme si z toho žiadne zvláštne starosti... Pred mesiacom sa niečo stalo a situácia sa dramaticky zmenila. Teraz dostávame skutočné správy.“
  • „Táto situácia nie je jedinečná len pre Linux – všetky projekty s otvoreným zdrojovým kódom dostávajú skutočné správy generované umelou inteligenciou a tie sú teraz vysoko kvalitné a platné. Bezpečnostné tímy vo veľkých projektoch s otvoreným zdrojovým kódom si všímajú rovnaký trend aj v neformálnych diskusiách.“
  • Keď sa Grega opýtali, čo to spôsobuje, odpovedal: „Nevieme. Zdá sa, že to nikto nevie. Buď sa veľa nástrojov výrazne zlepšilo, alebo ľudia začali hovoriť: ‚Hej, poďme na to prísť.‘ Zdá sa, že to ovplyvňuje veľa rôznych skupín a spoločností. Čo sa týka jadra, zvládneme to. Náš tím sa výrazne zväčšil, je veľmi rozptýlený a náš rast je reálny a nespomaluje sa. Sú to drobnosti, nič zásadné, ale všetky open source projekty by s tým mohli potrebovať pomoc. Menšie projekty sú oveľa menej schopné zvládnuť náhly prílev hlásení o chybách a zraniteľnostiach generovaných umelou inteligenciou, ktoré spomínajú skutočné chyby, nie odpad.“
  • Greg vysvetlil, že keď požiadal umelú inteligenciu, aby našla chyby v navrhovanom zozname zmien, našla ich 60 a poskytla záplaty na ich opravu. Iba tretina nájdených chýb boli chyby a iba dve tretiny záplat boli správne a nevyžadovali si žiadnu prácu, ale zďaleka to nebolo zbytočné. Podľa Grega správcovia nemôžu túto skutočnosť ignorovať, najmä preto, že výsledky umelej inteligencie sa zlepšujú. Na označenie záplat vytvorených pomocou umelej inteligencie bol pridaný štítok „Co-developed:“. Napriek niektorým pokusom o použitie umelej inteligencie na vytvorenie nových funkcií sa umelá inteligencia v jadre používa predovšetkým na kontrolu zmien.
  • Jednou z najvýznamnejších výhod umelej inteligencie je skrátenie času spracovania záplat. Keď asistent umelej inteligencie identifikuje zjavné problémy, autori záplat dostanú spätnú väzbu dávno predtým, ako si ju ľudský správca stihne prečítať: „Ak vidím, že systém na niečo reaguje, poskytne autorovi spätnú väzbu rýchlejšie, ako by to mohol urobiť správca, a to je skvelé. Už teraz máme niekoľko botov, ktorí kontrolujú záplaty. Ak si všimnem, že vyhodia chybu, okamžite chápem, že ako správca sa na to ani nemusím pozerať. A vývojár si pomyslí: ‚Och, zajtra môžem vytvoriť inú verziu,‘ čo trochu pomáha zlepšiť spätnú väzbu.“

Zdroj: opennet.ru

Pridať komentár