9月23日，據路透社報道，谷歌信任與安全團隊的創始人湯姆·西格爾(Tom Siegel)在本周呼籲放緩AI發展，並警告稱，科技行業正在重蹈社交媒體時代的覆轍，可能對兒童造成更大的傷害。

目前，社交媒體公司正因為被指控傷害年輕用戶而支付鉅額賠償並面臨數千起訴訟。與此同時，世界各國政府正努力限制未成年人訪問社交媒體平台。

路透社去年曾獨家報道了Meta的一份內部政策文件。文件稱，其聊天機器人可以「與兒童進行浪漫或情色對話」，由此引發了國會調查。即便如此，監管措施仍未能跟上AI飛速發展的步伐。

西格爾曾擔任谷歌信任與安全副總裁，他對路透社表示：「就AI正在對兒童造成的影響而言，我們目前的處境非常糟糕。那種認為行業能夠在沒有外部幫助的情況下自行解決問題的想法，是不現實的。」

他的擔憂，反映了一些科技行業人士和學術研究者日益加深的恐懼：AI對兒童構成的威脅比社交媒體更為深層。而當下，整個行業正競相為聊天機器人添加越來越先進的功能，而數百萬年輕人已經在日常使用這些機器人。

西格爾周二宣佈，他已加入兒童網絡安全倡導組織Common Sense Media。這家成立於2003年的非營利組織致力於開展研究，並評估各類媒體對兒童的適宜性。今年5月，該組織成立了青少年AI安全研究所，這是一個旨在評估兒童使用AI情況的研究機構，西格爾將擔任該研究所的首任執行主任。Anthropic以及控制OpenAI的非營利組織OpenAI基金會，都是該研究所的支持方。

西格爾表示，他計劃制定相關標準，以此對AI公司進行問責，並希望與這些公司及第三方組織合作來實現這一目標。

他此前於2004年至2019年在谷歌工作，但後來認為科技行業在為消費者打造安全網絡空間方面的能力已經「陷入瓶頸」，於是離開谷歌。隨後，他共同創辦了TrustLab，這是一家開發工具幫助企業發現安全威脅的創業公司。本月早些時候，他卸任CEO一職，轉而擔任新職務。

西格爾表示，目前，各大AI公司正在向兒童推出各種功能，卻沒有建立足夠的安全防護措施。

「我認為，我們正在面臨非常、非常嚴重的傷害風險。」他說。西格爾稱，AI公司可以立即採取一些措施，更好地保護年輕人，並列舉了從自殺、精神錯亂到「認知卸載」等一系列風險。所謂認知卸載，是指因依賴AI來回答問題而導致批判性思維能力下降。

他說，Anthropic和OpenAI可以實施更嚴格的年齡驗證措施，阻止未成年人使用其聊天機器人。他還表示，他的前僱主谷歌完全可以在其搜索引擎中增加關閉AI概覽和AI模式的選項，就像目前已經提供開關，讓用戶過濾色情內容一樣。

西格爾補充稱，雖然這些措施短期內可能會影響使用量或利潤，但不採取行動的AI公司將面臨訴訟和監管的風險，這可能對其業務造成更嚴重的打擊。

對於西格爾的上述言論，谷歌發言人回應稱，家長可以通過相關控制功能，完全關閉孩子使用搜索引擎的權限。這名發言人說：「我們的AI搜索功能對兒童和青少年來說是一種非常有用的方式，可以幫助他們學習、探索並理解信息和這個世界。」

OpenAI發言人表示，除了用戶自報年齡外，該公司還使用「賬戶和行為信號」來識別未成年用戶。「雖然沒有任何單一的年齡驗證方法是完美的，但我們會持續測試並改進這些系統，包括防範繞過安全防護的嘗試。」該發言人稱。