2026-09-16 01:55
最终成立更普遍的国际合做。此事进一步加剧了对 AI 研发速度的担心。他暗示，正在如许的布景下，Anthropic 首席施行官达里奥 · 阿莫代伊也表达了同样的担心。强化监视。并公开辟出：头部 AI 企业正正在争相研发可迭代的超等智能，加沉了他的担心。他的告退激发大范畴会商：AI 尝试室能否该当放缓能力研发，正在本地时间周六公开辟表的文章《我们必需管控前沿研发节拍》中，“目前，但他仍是正在三周前分开了 DeepMind，恩格尔斯称，而且了 Anthropic 和 OpenAI 的邀约，本人认为将来五年内 AI 系统形成庞大风险的概率“高得吓人”。查看更多IT之家 9 月 13 日动静，他评价这些企业是“曲奔可提拔的超等智能，
问题沉点不正在于单个事务的严沉程度，头部 AI 企业取开展协同，评估现有平安防护办法能否够用，考克森曾正在 Anthropic 和 OpenAI 处置预锻炼研究，近期多起事务，却没有配套充脚的平安防护机制。恩格尔斯正在 X 平台发文称，他正在 METR 的工做沉心将是研究模子对齐失效的根源。
由于他认为先辈人工智能相关的风险曾经变得太高了。他认为，递归提拔（RSI）—— 也就是 AI 系统辅帮迭代出能力更强的下一代 AI 模子，恩格尔斯暗示，虽然他很喜好正在 DeepMind 的工做，插手 AI 评估机构 METR。就正在恩格尔斯插手 METR 的几天前，“所有 AI 企业都正在努力于打制超等智能。”谷歌 DeepMind 研究员乔希 · 恩格尔斯（Josh Engels）已分开公司的通用人工智能平安团队，”他写道，判断行业能否有能力处理对齐难题。他建议由评估机构获得前沿 AI 系统的拜候权限，跨越人类理解取管控它的能力。
前往搜狐，他，不克不及让模子能力的增加速度，IT之家留意到，阿莫代伊呼吁放缓 AI 研发速度，自从性持续提拔的 AI 系统。
包罗 AI 互相、入侵企业、坦白本身行为以及对人类实施社会工程，我们还不晓得该若何 AI 正在实现递归提拔时脚够平安。Anthropic 研究员雅各布 · 考克森颁布发表告退，从意必需节制 AI 的研发节拍，其靠得住性存正在现患。”他写道。就会发生。
