文｜商隱社

一、憂思背後的利益考量

當地時間9月14日，在洛杉磯All-In峯會上，黃仁勳正在台上參加現場小組討論時，手機響了。來電人是美國總統。

他把電話切到免提，讓全場都聽見。

特朗普在那頭說：

「機器人不會接管世界，人工智能也不會掌控全球，這種事絕不會發生。」他認為近期對人工智能失控的說法「全是一場騙局」。

他還稱數據中心能給地方創造財富，並表示如果美國因為擔憂風險而放慢腳步，最開心的將是中國。

黃仁勳答：「您說得對，我們不會讓那種事（AI減速）發生。」現場隨即響起掌聲。

特朗普之所以說出這樣一番話，是因為近期「AI末日論」鬧得沸沸揚揚。

這行論戰是由Anthropic的CEO達里奧·阿莫迪點燃的，他於9月12日發表了一篇題為《我們必須放緩前沿》的長文，他警告「按目前的速度，6到12個月內，一群自主AI智能體可能具備通過殭屍網絡接管整個互聯網的能力，並造成數千億美元級別的損失。

他由此呼籲放慢最先進模型的升級速度，讓安全研究跟上，並提出三步方案——引入嵌入式第三方評估、建立行業共同安全標準、推動全球層面的協調。

當晚，OpenAI的薩姆·奧特曼回應：

「我同意達里奧，我們需要控制前沿發展的步伐。」

緊接着，xAI的埃隆·馬斯克轉發並附言：

「達里奧說得對。」

這三個人是什麼關係？阿莫迪和奧特曼是最直接的競爭對手；馬斯克和奧特曼公開決裂多年，馬斯克還起訴過OpenAI，兩人在社交媒體上互懟是家常便飯。

然而此刻，仇人和對手紛紛站到了同一邊，一起呼籲讓AI減速。

他們或許真的對AI產生的威脅有所擔憂，但從過往來看，這種擔憂並不多——作為目前AI界「雙子星」的Anthropic和OpenAI一直都是一邊強調安全，一邊拆掉安全護欄加速奔跑。

OpenAI成立之初明確將公司的使命宣言定為構建「安全造福人類、不受財務回報需求限制」的通用人工智能，但在2025年底的公司文件中，「安全」和「不受營利需求約束」的關鍵表述已被刪去。

其實在此之前，OpenAI已將利潤置於安全之上：

2024年1月，媒體報道稱，OpenAI悄然廢除ChatGPT「軍事與戰爭用途禁令」，隨着美軍對AI技術需求越來越強烈，OpenAI也悄悄弱化了先前反對軍事應用的立場；

同時，OpenAI也廢除了長期秉持的透明度原則，外部觀察者失去了判斷OpenAI治理結構、利益衝突和安全決策機制的事實基礎；

2024年5月，5名負責安全相關工作的員工辭職，其中的揚·萊克警告公衆說，該公司過於看重「炫目的產品」而輕視AI安全。

同樣，Anthropic創立之初也把安全放在覈心位置。

達里奧·阿莫迪曾是OpenAI的研究副總裁，出於OpenAI價值觀的懷疑和安全性的擔憂，他在2021年跟其他六位OpenAI核心員工集體出走創立了Anthropic（意為「人類」），推出了明星級產品Claude。

Anthropic一開始就把「全世界最較真‘AI安全’的前沿公司」作為標籤，並發布了「憲法AI」來訓練AI——通過創造一套明確的價值觀原則，讓AI用這套原則評判和修正自己的輸出。

此外，Anthropic還於2023年9月推出了《負責任擴展政策》這個治理框架，用來評估模型可能帶來的災難性風險，如果達到一定標準，公司將主動暫停訓練，直到安全達標。

但在今年2月Anthropic發布的《負責任擴展政策》3.0版中，取消了此前「在無法事先保證風險緩解措施到位前，不訓練更強模型」的承諾。取而代之的是更柔和的以路線圖、風險報告與外部評審為核心的透明度機制。

不得不承認，AI發展會帶來一系列安全問題，但目前AI只是萬里長征走完了第一步，風險有沒有大到將要毀滅人類的「末日」級程度呢？

這是非常抽象且相當令人懷疑的，都屬於「不可證僞不能被驗證」，也沒有任何一家科技公司能提供可信的具體場景證明此類末日危機近在咫尺，他們只是一味在強調危機，從不提出像樣的解決方案，反而不斷拆掉安全護欄狂奔。

這不禁讓人認為，這些對人類存亡的憂思之中，暗藏着利益的考量。

二、五個男人的一台戲

今年6月份，Anthropic在《當人工智能開始自我構建》的報告中就曾發出過警告，AI系統可能在兩年內實現遞歸自我改進，即自主設計、訓練和改進後繼模型，人類對模型訓練的介入將逐步減少。因此，報告呼籲全球主要AI實驗室放緩，甚至暫停前沿模型研發。

然而就在這份報告發出前幾日，Anthropic已祕密遞交IPO申請，估值接近萬億美元。

這次達里奧·阿莫迪再次呼籲AI減速，又正值Anthropic即將上市的關鍵期。

衆所周知，IPO窗口期對企業敘事能力的要求比較高，Anthropic自成立以來就主打「安全」，這也是其區別於競爭對手的核心賣點，通過不斷強化「安全敘事」，能把其估值溢價進一步抬高。

山姆·奧特曼就曾犀利地抨擊過Anthropic的這種自我營銷方式：「我們造了一顆炸彈，正要把炸彈丟到你頭上，然後賣給你一個一億美元的防空洞，還只賣給被我們選中的人——這顯然是不可思議的營銷」。

但抨擊歸抨擊，這次奧特曼也跟阿莫迪站在了同一陣營，也並非出於對人類命運的關心，而是當下同樣需要「安全敘事」。

OpenAI在2025年淨虧損385億美元，而Anthropic 全年淨虧損約為42億美元。到了2026年上半年，Anthropic營收增速遠超OpenAI，並在第二季度首次在單季營收規模上超越對方，同時實現了盈利轉正,OpenAI不但繼續虧損，增速也放緩了。

所以對於OpenAI來說，目前並不是一個好的上市時機。一個推遲IPO的決定，可以有兩種敘述。一種說法是「我們為了人類安全暫緩上市」，另一種說法是「我們在等一個更好的估值窗口」，奧特曼顯然選擇前者作為公開表述，從一個「加速論」者迅速切換到「減速」。

所以近期《財富》專訪奧特曼時，面對「是否迫於IPO壓力必須快跑」的提問，他的回答乾脆利落：

「我們不會倉促上市。考慮到安全領域正在發生的一切，現在上市將是一個不明智的時刻，我們對此沒有壓力。」

相比奧特曼，馬斯克一向在強調AI的危險，早在2014年他就認為「AI可能比核武器更危險」，還預測過AI導致人類毀滅的概率約為20%。

後來他依然在警告AI危險，但同時也創辦了xAI，其核心邏輯是：‌既然AI不可避免，與其站在場外擔心，不如親自下場，確保AI按自己認為安全的方向發展‌。

但xAI在前沿模型競賽中處於追趕者位置，呼籲「減速」對追趕者有利。而就在表態讚同減速的同時，xAI的Grok 4.8預訓練啱啱結束，強化學習訓練隨即啓動。

同時，在9月15日的All-In峯會上，馬斯克談到了一個監管AI的方案：領先的AI公司（包括xAI在內）在模型正式發布前相互測試對方的模型，由競爭對手負責發現並提出安全隱患。

這也體現了馬斯克的考量，既想通過互相監督拖慢領先者，利好追趕者，又想作為參與者制定行業規則，而行業自律的方式也能避免政府幹預AI監管。

「減速論」陣營裏的三位，看法一致，但都有各自的盤算。

黃仁勳作為AI產業中的「賣鏟人」，是不折不扣的「加速論」者，英偉達的業績指引依賴於「AI基礎設施的指數級增長」，而減速論調恰恰威脅這一敘事，英偉達在減速議題上也會有其他答案。

所以他極力論證對AI持消極態度者的預測都沒有按照時間表兌現：幾年內放射科醫生會被AI 取代，短期內 90% 的代碼將由 AI 生成，大量初級崗位會迅速消失。

「加速論」陣營裏另一重量級人物就是特朗普，他在所有相關表態中反覆提到一個判斷：美國目前在AI領域「領先中國大約一年」，但這一優勢隨時可能喪失。

他明確說過：「我一點也不擔心（AI導致人類滅絕）」「我擔心的是如果我們不能贏得人工智能競賽，我們將陷入非常不利的境地」。

這種焦慮直接驅動了他的行動。2026年5月，他原本準備籤著一項要求前沿AI模型接受90天政府安全審查的行政令，但白宮前AI事務主管戴維·薩克斯在簽署當天緊急致電，警告審查機制會「嚴重拖慢美國AI產業創新速度，甚至導致美國在AI競爭中輸給中國」。隨後馬斯克、扎克伯格等科技高管也致電施壓，特朗普最終在最後一刻取消了簽署。

另外，特朗普極力反對「AI減速論」也是為了即將到來的美國中期選舉。特朗普政府對AI基本採取不干預態度，但美國民衆對AI建設愈發不滿，尤其是數據中心，被指責推高了電價。

今年3月NBC新聞的一項民調顯示，AI的支持率甚至低於美國移民及海關執法局（ICE）。5月蓋洛普的調查也發現，十分之七的美國人反對在本地建設AI數據中心。

正因如此，特朗普在強調鼓吹AI存在致命風險、呼籲政府介入監管的聲音，都是「荒唐的陰謀論」的同時，還提到「數據中心就是未來20至25年的石油，價值遠超互聯網，要比其還重要得多」。

他要在中期選舉前，把一個對本黨不利的民生議題定性為「騙局」。

說到底，看似關乎人類命運和技術倫理的辯論，其實跟兩者都沒有關係。

如果一件事真可能在幾十年內就終結人類，靠辯論是解決不了的。而如果它靠辯論就能解決，那一開始就不是末日。