路透9月16日 - 據《金融時報》周三報道，谷歌DeepMind聯合創始人謝恩·萊格（Shane Legg）在成立一家致力於探索通用人工智能（AGI）應用的研究所之際警告稱，快速發展的AI絕不能超越安全控制措施。

在人工智能公司就「遞歸自我改進」 (link) 發出警告之際，研究人員報告稱，能力日益增強的人工智能代理已經能夠編寫軟件、執行自主任務並協助開發人工智能系統。這引發了人們的擔憂：該技術的發展速度可能會超過用於監測和控制它的安全防護措施。

• 據報道，萊格表示，Anthropic首席執行官達里奧·阿莫代伊（Dario Amodei）關於放緩 (link) 但不要暫停前沿模型發布的呼籲，「在方向上很有意思」，且「值得考慮」。

• 據《金融時報》報道，他表示，儘管英偉達 NVDA.O 和OpenAI的高管近期曾宣稱已實現AGI，但現在就斷言AGI已實現還為時過早。

• 報道稱，萊格仍對自己的預測「感到滿意」，即到2028年實現「最低限度」AGI的概率為50%。

• 報道補充道，DeepMind研究所旨在拓寬公衆對AGI的討論範圍，谷歌DeepMind將AGI定義為具備人類大腦認知能力的系統。

• 據《金融時報》報道，該研究所將涵蓋科學、教育、社會、政策、哲學及人類繁榮等議題。

• 報道稱，該研究所發布的首批三篇論文分別探討了人工智能安全、經濟政策以及「新烏托邦主義」的原則。