Kenrick Cai

路透舊金山9月22日 - Alphabet旗下 GOOGL.O 谷歌信任與安全團隊的創始人本周呼籲放緩人工智能發展步伐，並警告稱科技行業正在重蹈社交媒體時代的覆轍，這可能會對兒童造成更大的傷害。

社交媒體公司正因被指控傷害年輕用戶而支付鉅額賠償 (link)，並面臨數千起訴訟 (link)，與此同時，世界各地的政府正致力於限制未成年人訪問其平台 (link)。

路透去年獨家報道 (link) 稱，Meta的一份內部政策文件 META.O 指出，其聊天機器人可能「與兒童進行浪漫或性感的對話」，這導致了國會調查 (link)。即便如此，監管仍未能跟上人工智能 (link) 飛速發展的步伐。

「就人工智能對兒童造成的影響而言，我們正處於一個非常糟糕的境地，」谷歌前信任與安全副總裁湯姆·西格爾（Tom Siegel）對路透表示。「指望該行業在沒有外界幫助的情況下自行解決問題是不現實的。」

西格爾的擔憂反映了部分科技業內人士和學術研究人員日益加劇的擔憂：當前，隨着行業競相為數百萬年輕人日常使用的聊天機器人添加越來越先進的功能，人工智能對兒童構成的威脅比社交媒體更為深遠。

西格爾加入青少年人工智能安全研究所

西格爾周二宣佈，他已加入兒童網絡權益倡導組織「常識媒體」（Common Sense Media）。該非營利組織成立於2003年，致力於開展研究並評估各類媒體對兒童的適宜性。今年5月，該組織成立了「青少年人工智能安全研究所」（Youth AI Safety Institute），這是一個旨在評估兒童人工智能使用情況的研究機構，西格爾將擔任該研究所的首任執行董事。

Anthropic以及掌控OpenAI的非營利組織OpenAI基金會均是該研究所的資助方。

西格爾表示，他計劃制定相關標準，以此督促人工智能企業承擔責任，並希望通過與這些企業及第三方組織合作來實現這一目標。

他此前於2004年至2019年在谷歌工作，但因認為科技行業在為消費者創造安全網絡空間方面的能力已「停滯不前」，遂選擇離職。隨後，他聯合創立了初創公司TrustLab，該公司致力於開發幫助企業檢測安全威脅的工具；本月早些時候，他辭去首席執行官職務，以接任新職位。

西格爾指出，目前，主要的人工智能公司正在向兒童推出各項功能，卻未建立充分的防護機制。

風險範圍從自殺到精神病

「我認為我們正面臨着極其嚴重的傷害情景，」他說。

他建議這些公司應立即採取措施更好地保護年輕人，並列舉了從自殺、精神病到「認知卸載」等風險——後者是指因依賴AI回答問題而導致批判性思維能力下降的現象。

他表示，Anthropic和OpenAI可以實施更嚴格的年齡驗證措施，以阻止未成年人訪問其聊天機器人。他還補充說，他以前的僱主谷歌可以輕鬆地在其搜索引擎中添加一個選項，用於關閉「AI概覽」和「AI模式」，就像它已經提供了一個允許用戶過濾色情內容的開關一樣。

西格爾補充道，雖然這些措施在短期內可能會影響使用量或利潤，但若AI公司不採取行動，將面臨訴訟和監管風險，這些風險對業務的影響可能更為嚴重。

當被問及如何回應西格爾的言論時，谷歌一位發言人表示，家長可以通過控制功能完全禁止孩子使用搜索引擎。「我們的AI搜索功能是兒童和青少年學習、探索以及理解信息和世界的一種極其有用的方式，」該發言人說道。

OpenAI的一位發言人表示，該公司除了用戶自報年齡外，還會利用「賬戶和行為信號」來識別未成年用戶。「雖然沒有任何一種年齡驗證方法是完美的，但我們一直在測試和改進這些系統，包括防範試圖繞過安全措施的行為。」

Anthropic 尚未立即回應置評請求。

在「常識媒體」（Common Sense Media），西格爾表示，首要任務是推廣類似汽車碰撞測試的獨立標準，以評估公開可用的AI工具所帶來的風險。該措施的有效性在一定程度上取決於AI公司是否願意合作。西格爾表示，雖然合作的可能性尚不確定，但已足夠高，以至於他決定接受這份工作。