AI 安全研究员相继辞去谷歌 DeepMind 职务

Deep News
5 hours ago

科技行业高管正面临日益高涨的呼声,要求放缓人工智能研发步伐并加强监管,而此刻恰逢两位从事 AI 安全方向的研究人员从谷歌 DeepMind 离职。他们公开表示,之所以离开,是因为担忧高能力 AI 系统可能对人类构成威胁。

这两位研究员分别是比拉尔・乔泰(Bilal Chughtai)与乔希・恩格斯(Josh Engels),两人都将投身专注于 AI 安全的机构,加入公开警示 AI 技术风险的研究者行列。在 DeepMind 工作满一年的恩格斯在 X 平台发文称:“我现在认为,未来五年内 AI 系统造成巨大伤害的可能性高得令人恐惧。” 出于这一考量,他将加入独立 AI 安全研究机构 METR,从事大模型人类对齐相关工作。

乔泰于周一在 X 上表示:“我由衷相信,AI 具备把人类全部推向毁灭的潜在风险。” 他在 DeepMind 任职一年半,现已加入非营利机构 BlueDot Impact,该机构开设 AI 安全相关教育课程。

近期多家前沿 AI 实验室已有多位核心人员出走,这两人的离职是最新案例。过去几周,雅各布・考克森与乔・本顿相继离开 Anthropic,理由是各家 AI 企业在竞速开发技术的过程中,把安全问题放到了次要位置。

随着 AI 研发竞赛加速,行业内部对安全问题的分歧日益凸显。这些高调离职事件不仅反映了个别研究人员的个人选择,更折射出整个行业在面对技术潜力与潜在风险之间平衡时的深层次矛盾。研究人员纷纷转向独立机构,寻求在不受商业压力影响的条件下探索 AI 安全边界,这一趋势或将推动更广泛的行业反思与治理讨论。

谷歌 DeepMind 尚未对这些离职事件发表公开评论。与此同时,监管机构和政策制定者正密切关注 AI 领域的动态,试图在促进创新与防范风险之间找到合适的政策路径。业内观察人士指出,核心人才的持续流失可能促使更多前沿实验室重新审视其安全文化,并加大对可解释性、鲁棒性和对齐研究的投入。

对于未来的 AI 发展方向,恩格斯在发言中强调了紧迫感:“我们需要在灾难发生之前采取行动,而不是之后。” 乔泰则呼吁更广泛的公众参与监督:“这是一个关乎全人类命运的问题,不应仅由少数企业决策者内部决定。”

随着这些声音逐渐壮大,AI 安全议题正从技术圈层扩展至公共领域,成为下一阶段科技政策辩论的关键焦点。

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10