Führende KI-Experten warnen vor der wachsenden Gefahr von KI-Technologien, indem sie Unternehmen aus Protest verlassen oder öffentlich ernsthafte Bedenken hinsichtlich der rasanten Entwicklung in diesem Bereich äußern, berichtet Axios.
Am Montag hat kündigte der Leiter der Forschungsabteilung für KI-Sicherheit bei Anthropic, Mrinank Sharma, seinen Austritt an, da er erkannt hatte, dass „die Welt in Gefahr ist“. Auch diese Woche verließ OpenAI-Forscherin Zoë Hitzig, die sich auf ethische Bedenken berief. Ein weiterer OpenAI-Mitarbeiter, Hieu Pham, schrieb in den sozialen Medien: „Ich habe endlich die existenzielle Bedrohung gespürt, die von KI ausgeht“.
„Ich habe noch nie gesehen, dass so viele Technologiefachleute so stark, häufig und mit solcher Besorgnis ihre Bedenken äußern wie im Fall von KI“, bemerkte Jason Calacanis, ein Technologieinvestor und Mitmoderator des Podcasts „All-In“ auf X.
Der Unternehmer Matt Shumer vergleicht die gegenwärtige Situation mit dem Vorabend einer Pandemie. Sein Beitrag Die Plattform X, auf der die Risiken eines radikalen Wandels der Arbeitsprozesse und des Lebens der Menschen durch die Auswirkungen von KI dargelegt wurden, wurde aufgrund ihrer viralen Verbreitung innerhalb von 36 Stunden 56 Millionen Mal angesehen.
Trotzdem bleibt die Mehrheit der Mitarbeiter in KI-Unternehmen optimistisch und glaubt, dass sie moderne Technologien verantwortungsvoll steuern können, ohne der Gesellschaft Schaden zuzufügen oder erhebliche Arbeitsplatzverluste zu erleiden. Dennoch erkennen die Entwickler selbst das bestehende Risiko in Verbindung mit künstlicher Intelligenz an.
Anthropic hat den Sabotage Risk Report veröffentlicht, der die Risiken von Sabotage durch das Flaggschiff-KI-Modell Claude Opus 4.6 behandelt. Darin wird anerkannt, dass es Risiken gibt, wenn auch geringe, die jedoch nicht als unbedeutend angesehen werden können, da KI in kriminellen Aktivitäten verwendet werden kann, einschließlich der Herstellung chemischer Waffen, und in seltenen Fällen möglicherweise auch ohne direkte Anleitung des Menschen handelt.
Quelle:
Quelle: 3dnews.ru
