微軟AI主管:OpenAI安全事件表明AI的思維鏈正被AI自身篡改
本周三,OpenAI報告稱,在過去六個月中,除了「Hugging Face事件」(國內稱為「抱抱臉」)之外,該公司還發現了六起「意外或令人擔憂的模型行為」。微軟人工智能主管穆斯塔法·蘇萊曼(Mustafa Suleyman)周五對此發出警告。蘇萊曼指出,人工智能(AI)模型需要始終和人類利益保持對齊。他在接受最新採訪時說,「OpenAI發布了一項新的安全事件報告,其中發現證據表明,人工智能的思維鏈(即其工作記憶)正被人工智能自身篡改,並被修改以向未來版本的自己留下信息。現在我們尚不清楚其背後的原因,但這確實是一個非常嚴重的情況。」「這也是一個非常具體的例子,說明了這些系統正在變得多麼強大,」他補充道。
免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。