人工智能领域的顶尖专家警告称，人工智能技术的潜在危险日益增加，这导致一些公司提出抗议，或公开表达对该领域快速发展的严重担忧。 Axios。
星期一 объявил 人类智能组织人工智能安全研究部门负责人米南克·夏尔马宣布辞职，他意识到“世界正处于危险之中”。同样在本周 剩下 OpenAI 研究员佐伊·希齐格 (Zoë Hitzig) 在社交媒体上以伦理问题为由写道：“我终于感受到了人工智能带来的生存威胁。”
“我从未见过这么多技术专家像对待人工智能那样，如此强烈、如此频繁、如此深刻地表达他们的担忧，”科技投资者兼 All-In 播客联合主持人 Jason Calacanis 在社交媒体上写道。
企业家马特·舒默将当前形势与疫情爆发前夕进行了比较。 邮寄 一篇发布在 X 平台上的文章概述了人工智能彻底改变工作和人们生活所带来的风险，该文章迅速走红，在 36 小时内获得了 56 万次浏览量。
与此同时，大多数人工智能公司的员工仍然保持乐观，相信他们能够巧妙地运用现代技术，既不会损害社会，也不会造成大规模失业。然而，开发人员自身也承认人工智能存在的风险。
人为因素公司发布了一份关于其旗舰人工智能模型 Claude Opus 4.6 可能造成破坏风险的破坏风险报告。报告承认，尽管风险很小，但人工智能可能被用于犯罪活动，包括制造化学武器，并且在极少数情况下，它可能会在没有人类直接控制的情况下采取行动。
来源：
来源： 3dnews.ru
