I principali esperti di IA avvertono del crescente pericolo delle tecnologie IA, dimettendosi dalle aziende in segno di protesta o dichiarando pubblicamente serie preoccupazioni per lo sviluppo sfrenato in questo campo, scrive Axios.
Lunedì ha annunciato ha annunciato le sue dimissioni il capo del dipartimento di ricerca sulla sicurezza dell'intelligenza artificiale di Anthropic, Mrinank Sharma, rendendosi conto che "il mondo è in pericolo". Anche questa settimana ha lasciato la ricercatrice di OpenAI Zoë Hitzig, citando motivi etici. Un altro dipendente di OpenAI, Hieu Pham, ha scritto sui social media X: "Ho finalmente percepito la minaccia esistenziale rappresentata dall'IA".
"Non ho mai visto così tanti esperti tecnologici esprimere le loro preoccupazioni con tanta intensità, frequenza e apprensione come nel caso dell'IA", ha osservato su X Jason Calacanis, investitore nel settore tecnologico e co-conduttore del podcast "All-In".
L'imprenditore Matt Shumer confronta la situazione attuale con la vigilia della pandemia. Il suo un post sul social platform X, in cui ha esposto i rischi associati al cambiamento radicale dei processi lavorativi e della vita delle persone sotto l'influenza dell'IA, è diventato virale, accumulando 56 milioni di visualizzazioni in 36 ore.
Tuttavia, la maggior parte dei dipendenti delle aziende di IA resta ottimista, credendo di poter gestire responsabilmente le tecnologie moderne senza compromettere la società o subire gravi perdite di posti di lavoro. Ma gli stessi sviluppatori riconoscono l'esistenza di rischi associati all'intelligenza artificiale.
Anthropic ha pubblicato il rapporto Sabotage Risk Report, dedicato ai rischi di sabotaggio da parte del modello di IA di punta Claude Opus 4.6. In questo rapporto si ammette che ci sono rischi, sebbene siano piccoli, non possono essere considerati insignificanti, che l'IA possa essere utilizzata in attività criminali, inclusa la creazione di armi chimiche, e che in rari casi possa intraprendere azioni senza un'istruzione diretta da parte dell'uomo.
Fonte:
Fonte: 3dnews.ru
