Vývojári projektu LLVM schválili smernice pre používanie nástrojov umelej inteligencie vo vývoji. Potreba regulovať používanie umelej inteligencie pramení z rastúceho počtu „nevyžiadaných“ zmien navrhnutých na zahrnutie do kódovej základne LLVM. „Nevyžiadané“ sa vzťahujú na zmeny generované nástrojmi umelej inteligencie a odoslané tak, ako sú, bez pochopenia povahy zmien, bez kontroly a s postojom, že „správca na to príde“. Takáto činnosť predstavuje zvýšenú záťaž pre správcov a núti ich strácať čas kontrolou nepotrebného kódu.
Vývojári LLVM zároveň uznávajú, že pri správnom používaní je umelá inteligencia užitočným nástrojom, ktorý urýchľuje vývoj. Podmienky používania umelej inteligencie v LLVM sú čiastočne založené na pokynoch, ktoré minulý rok zverejnil projekt Fedora. Hlavnou myšlienkou týchto pokynov je, že vývojári by nemali delegovať bremeno kontroly kódu vytvoreného asistentmi umelej inteligencie na správcov.
Okrem zodpovednosti za odoslané zmeny uvedenej v pokynoch Fedory, pokyny LLVM teraz vyžadujú povinnú manuálnu kontrolu kódu vygenerovaného umelou inteligenciou pred odoslaním zmeny do projektu. Osoba, ktorá zmenu predkladá, musí navyše dôkladne rozumieť odoslanému kódu a byť pripravená odpovedať na otázky týkajúce sa neho. Odporúča sa manuálne písať popisy žiadostí o zmeny, než sa spoliehať na umelú inteligenciu pri príprave sprievodného textu.
Pri odosielaní zmeny, ktorá je významne generovaná nástrojmi umelej inteligencie, musí poznámka k žiadosti o zmenu obsahovať informácie o použití umelej inteligencie, napríklad uvedením značky „Assisted-by: meno asistenta umelej inteligencie“. Používanie automatizovaných nástrojov umelej inteligencie, ako je napríklad agent umelej inteligencie integrovaný do GitHubu @claude, ktoré vykonávajú akcie alebo odosielajú komentáre bez ľudského zásahu, je zakázané.
Prijaté pravidlá sa vzťahujú nielen na kód v pull requestoch, ale aj na RFC navrhujúce nové funkcie, hlásenia zraniteľností a chýb, komentáre a spätnú väzbu k pull requestom.
Za zmienku tiež stojí rozhodnutie Daniela Stenberga, autora nástroja Curl na odosielanie a prijímanie údajov cez sieť, ukončiť program odmien za zraniteľnosť v nástroji Curl. Program odmien sa skončí koncom januára z dôvodu množstva spamových správ generovaných asistentmi umelej inteligencie a odoslaných bez overenia skutočnej prítomnosti zraniteľnosti.
Bolo hlásené, že v prvých dvoch januárových týždňoch bolo podaných 20 žiadostí o odmenu, v ktorých sa uvádzali zraniteľnosti. Preskúmanie týchto žiadostí ukázalo, že žiadna z nich neodhalila skutočné zraniteľnosti. Oznamovateľom zraniteľností sa odporúča, aby nenahlasovali problém, pokiaľ mu nerozumejú a nedokážu ho reprodukovať. Preskúmanie takýchto žiadostí je pre bezpečnostný tím časovo náročné. Očakáva sa, že ukončenie odmeny odradí ľudí od odosielania spamu a zle overených hlásení o zraniteľnostiach, či už generovaných umelou inteligenciou alebo nie.
Aktualizácia: Projekt Node.js tiež oznámil obmedzenie týkajúce sa odmien za zraniteľnosti. Teraz bude prijímať iba príspevky od vysokopostavených účastníkov s históriou odosielania presných hlásení o problémoch (signál > 1) na HackerOne. Dôvodom tejto zmeny je výrazný nárast počtu nekvalitných príspevkov. Kontrola týchto nekvalitných príspevkov plytvá časom a zdrojmi, ktoré by sa inak mohli použiť na skutočnú prácu na zlepšení bezpečnosti platformy. Od 15. decembra do 15. januára projekt dostal viac ako 30 takýchto príspevkov.
Zdroj: opennet.ru
