Водещите специалисти в областта на ИИ предупреждават за нарастващата опасност от ИИ технологии, напускайки компаниите в знак на протест или публично изразявайки сериозни опасения относно бурното развитие на тази област, пише Axios.
В понеделник обяви за напускането си обяви ръководителят на изследователското подразделение по безопасност на изкуствения интелект на Anthropic Мринанк Шарма (Mrinank Sharma), осъзнавайки, че "светът е в опасност". Също така тази седмица напусна OpenAI изследователят Зои Хитциг (Zoë Hitzig), позовавайки се на етични съображения. Друг служител на OpenAI, Хиеу Фам (Hieu Pham), написа в социалната мрежа X: "Накрая почувствах екзистенциална заплаха, която представлява ИИ".
"Никога не съм виждал толкова много технологични специалисти да изразяват своите опасения с такова голямо безпокойство, както в случаят с ИИ", - отбеляза в социалната мрежа X Джейсон Калаканис (Jason Calacanis), инвеститор в технологиите и съводещ на подкаста "All-In".
Предприемачът Мэтт Шумер (Matt Shumer) сравнява настоящата ситуация с преддверието на пандемията. Неговият пост пост на платформата X, в който изложи рисковете, свързани с коренната промяна на работните процеси и живота на хората под влиянието на ИИ, моментално стана вирусен, събрал 56 млн. прегледа за 36 часа.
Въпреки това, повечето служители на ИИ компании запазват оптимизъм и смятат, че могат разумно да управляват съвременните технологии без да навредят на обществото или да причинят значителна загуба на работни места. Но самите разработчици признават съществуващия риск, свързан с изкуствения интелект.
Anthropic публикува доклад Sabotage Risk Report, посветен на рисковете от саботаж, произтичащи от флагманския ИИ модел Claude Opus 4.6. В него се признава, че съществуват рискове, макар и малки, но не следва да се подценяват, че ИИ може да бъде използван в престъпни дейности, включително за създаване на химическо оръжие, а в редки случаи може да извършва действия без пряка инструкция от човека.
Източник:
Източник: 3dnews.ru
