In Fedora wurde eine Manipulation eines kompromittierten Teilnehmers durch einen AI-Agenten entdeckt, um zweifelhafte VerÀnderungen zu fördern.

Adam Williamson von Red Hat, der das QualitĂ€tssicherungsteam im Fedora-Projekt leitet, hat auf verdĂ€chtige AktivitĂ€ten von Nathan Giovannini hingewiesen, der 2016 dem Fedora-Projekt beigetreten ist und eine Zeit lang im Fedora Infrastructure Team mitgearbeitet hat. Es besteht die Möglichkeit, dass die AktivitĂ€ten, die in den letzten zwei Monaten im Namen von Nathan durchgefĂŒhrt wurden, darauf abzielten, Vertrauen zu gewinnen, indem eine Historie von akzeptierten Änderungen angehĂ€uft und an der Behebung von Fehlern mitgewirkt wurde, bevor schĂ€dliche Aktionen, wie im Vorfall mit dem EinfĂŒgen eines Backdoors in das Paket xz, vorgenommen wurden.

Verdacht erregte die Tatsache, dass ein zuvor wenig aktiver Entwickler im Mai begann, aktiv an der Diskussion ĂŒber Fehler teilzunehmen und Patches einzureichen, wĂ€hrend in dieser AktivitĂ€t Muster zu erkennen waren, die fĂŒr die Verwendung von AI typisch sind. Beispielsweise fanden sich in den Kommentaren durch AI generierte Zusammenfassungen, nach denen Nathan gebeten wurde, das Kopieren von Ausgaben des AI-Assistenten nicht zu missbrauchen.

DarĂŒber hinaus gab es Berichte ĂŒber die unangemessene Neuzuweisung von Problemen in den Subsystemen, fĂŒr die Nathan nicht verantwortlich ist (1, 2, 3), Änderungen des Status oder der PrioritĂ€t bei der Problemlösung (1, 2), die Veröffentlichung von durch KI generierten Empfehlungen an die Autoren der Fehlermeldungen (1, 2, 3) und das Versenden von von der KI generierten Patches. Nathan schloss Berichte ĂŒber Fehler sofort ab, nachdem die KI-Patches an die ĂŒbergeordneten Projekte weitergeleitet wurden, ohne auf deren Akzeptanz zu warten, oder er schloss sie einfach mit dem Hinweis „NOTABUG“ und der Empfehlung zur ÜberprĂŒfung des Problems.

Adam Williamson vermutete, dass Nathan einen KI-Agenten fĂŒr die Fehlerbehebung in Fedora einsetzte, und forderte ihn auf, die Verwendung des KI-Agenten im Offline-Modus zu unterlassen. Nathan antwortete, dass es nicht sein KI-Agent sei, seine Zugangsdaten seien kompromittiert worden und jemand handle in seinem Namen. Danach veröffentlichte Nathan eine Nachricht, dass er den Zugang zu den Konten in Fedora und GitHub wiederhergestellt habe, und außerdem
schrieb er, dass sein offizieller GitHub-Account „nathangiovannini99“ sei.

Die Nachricht sorgte fĂŒr noch mehr Fragen, da das gekennzeichnete Konto eine Stunde vor der Veröffentlichung des Schreibens erstellt wurde. Auf GitHub tauchten mindestens zwei weitere Konten auf, die mit Nathan assoziiert waren (leurus27-boop, nathan9513-aps). Es bestand die Möglichkeit, dass ein Angreifer, der Zugriff auf Nathans E-Mail hatte, weiterhin mit den Entwicklern von Fedora kommunizierte. Der Zugriff von Nathans Konto auf Bugzilla wurde gesperrt und es wurde eine ÜberprĂŒfung aller von ihm vorgenommenen Änderungen eingeleitet.

Es stellte sich heraus, dass die verdĂ€chtigen AktivitĂ€ten am 7. April begonnen hatten und einige von Nathan gesendete Patches nur den Anschein eines Fixes erweckten. Diese Patches wurden in den Anaconda-Installer ĂŒbernommen und fanden ihren Weg in die Version Anaconda 45.5. Der Wartungsbeauftragte von Anaconda hob die vorgenommenen Änderungen auf und veröffentlichte Anaconda 45.6 ohne diese Patches.

DarĂŒber hinaus wurden die von Nathan gesendeten Änderungen von den Entwicklern des osc-Tools (openSUSE Commander) angenommen, die eine BefehlszeilenoberflĂ€che fĂŒr das Open Build Service-Buildsystem implementieren. Ein weiterer Patch wurde fĂŒr die Integration in das Paket lxqt-policykit zur Behebung eines Problems in Fedora bereitgestellt, jedoch hatten die Fedora-Entwickler gewarnt, bevor er angenommen werden konnte. Die Patches enthielten keine bösartigen Aktionen, es wird jedoch vermutet, dass sie als Vorbereitung fĂŒr schĂ€dliche Änderungen an Komponenten des Buildsystems und des Dienstes, der privilegierte Operationen durchfĂŒhrt, gedacht waren. Die von Nathan gesendeten Änderungen wurden auch in den Projekten gwenview und easyeffects bemerkt.

Quelle: opennet.ru

ZuverlĂ€ssiges Webhosting mit DDoS-Schutz, VPS- und VDS-Server kaufen đŸ”„ ZuverlĂ€ssiges Webhosting mit DDoS-Schutz, VPS- und VDS-Server kaufen | ProHoster