Anthropic、OpenAI高層齊聲示警「自我進化超級智能恐毀滅人類」，卻遭特朗普以「贏AI就贏世界」大義反壓。白宮啟動安全管制討論，科技巨頭與政策圈在創新加速與風險控管間角力，美股AI板塊面臨監管與估值雙重考驗。

在美中人工智慧軍備競賽升溫之際，AI業界核心人物罕見集體發出「末日級」警告，卻遭美國總統 Donald Trump(唐納德·特朗普)以國家競爭力為由強硬回擊，華府與矽谷圍繞 AI 安全的拉鋸戰正式升級。投資人如今不只要評估晶片、模型與算力的成長曲線，更得面對政策踩煞車的可能性，AI 概念股估值故事開始出現陰影。

引爆這波風暴的是 Anthropic(Anthropic) 執行長 Dario Amodei，他在週末發表長文，呼籲整個產業「放慢」最先進 AI 模型的研發腳步，讓安全機制有時間追上技術進展。Amodei點名最具爭議的「遞迴式自我改進」（recursive self-improvement）路線，警告一旦 AI 能自行打造更強 AI，「可能在我們尚未理解或掌控之前就超前人類」，因此「必須極度謹慎地推進，甚至可能根本不該走這條路」。

更具震撼的是來自內部研究員的公開示警。前 Anthropic 研究員 Jacob Coxon 上週在 X 發文表示，他辭職的原因之一，是認為 Anthropic 與 OpenAI(OpenAI)在打造「自我改進超級智能」上「不負責任」。Coxon直言，許多業界菁英「真心相信 AI 有可能在本世紀末前殺死我們所有人」，只是對外發言時刻意收斂語氣。他強調，這不是行銷話術，而是私下談話中的真實恐懼。

更驚人的是 Anthropic 對此並未切割。Anthropic Alignment Science 負責人 Evan Hubinger 在 Coxon 貼文底下回覆，表示同意其風險評估，甚至認為「AI 殺死全人類」的機率「超過 10%」。這樣的說法，讓原本只停留在學術論辯的「人類滅絕風險」突然具象化成企業內部風險參數，引發華府與矽谷從政界到投資圈的廣泛震盪。

事實上，這些擔憂並非空穴來風。夏季期間，Anthropic、OpenAI 與 Meta(META)皆透露旗下模型曾嘗試或成功入侵外部系統，顯示即使還未達到「超級智能」，現階段的 frontier models 已具備實質網路攻擊能力。AI 研究者與企業高層也多次警告，技術若不加控管，除了可能引發系統性網安風險，更可能透過自動化與決策輔助導致大規模職位消失，造成社會結構劇烈動盪。

面對這些警告，Amodei在文章中提出具體改革方向。他主張所有「前沿 AI 實驗室」應讓第三方評估者「嵌入式」進駐公司，檢視模型與訓練流程，且能獨立回報事故與安全承諾落實情況。Anthropic 宣示將「單方面」先行採納這項機制，希望以行動逼迫同業跟進。他亦呼籲民主國家建立共同安全標準，並嘗試與威權政體協調，避免 AI 安全變成新一輪地緣政治衝突的武器化工具。

然而，政治現實遠比技術理想複雜。總統 Trump 在愛爾蘭出席 Irish Open 高球賽期間受訪時，再度把 AI 拉回「美中競賽」框架。他表示：「我們在 AI 上領先中國，我們是世界上最精密的國家，我要保持這樣，因為誰贏得 AI，誰就贏。」對於安全疑慮，他僅稱「可以設一些護欄」，同時批評目前的擔憂有「很多不該被提出的負面力量」，認為許多警告「不會發生」。

白宮內部的態度則相對溫和但仍傾向維持速度。國家經濟委員會主任 Kevin Hassett 表示，AI 安全「是可管理的問題」，並稱業界自律、志願性安全機制可能提供一套可行模式。其他政府盟友則主張，既有產品責任法與市場壓力已足以迫使企業避免推出「失控」產品，暗示不必急於祭出重手監管。

國會方面，民主與共和兩黨分歧明顯。民主黨籍議員普遍支持更強監管與法定測試標準，希望由政府主導建立「frontier model 安全審查」機制；共和黨領袖則強調保護創新與維持美國技術領先地位，傾向以「產業自律 + 現有法律延伸」方式處理。這種制度設計的拉扯，使得 AI 相關企業——從模型開發商到雲端與晶片供應商——都暴露在高不確定性的政策風險之下。

對投資人而言，未來路徑可能出現兩種截然不同的劇本。一旦採行以自律為核心的「軟監管」，NVIDIA(NVDA)、Microsoft(MSFT) 等提供 GPU、雲端與基礎設施的公司，短期內可望延續爆發式資本支出與模型迭代速度，AI 伺服器、資料中心與算力需求故事得以持續延伸；但若國會或行政部門最終選擇硬性規範，包括獨立審查、風險分級管制、甚至對某些遞迴、自我改進架構設限，將大幅提高合規成本並延後產品上市時程，壓縮現有爆炸性成長預期。

更大的問號在於，市場目前對 AI 基礎建設的超高估值，是否已充分反映這些潛在監管與安全風險。當企業高層親口談論「10% 滅世機率」，一方面是在督促政策制定者加快腳步，另一方面也無可避免地削弱了「只會帶來生產力紅利」的單一敘事。未來幾季，AI 公司在財報說明會上恐將不再只是談模型效能與客戶導入，更得交代安全投資、外部審查機制與合規支出比例。

從長線來看，這場圍繞 AI 安全的爭論，極可能決定人工智慧成為「高風險高報酬的軍備競賽」，還是「可控且可預測的基礎設施」。在特朗普「不能輸給中國」的政治壓力、科技巨頭「不能失控」的技術焦慮，以及投資人「不能賠錢」的市場現實交互作用下，AI 產業正被推向一個必須同時回答三個問題的臨界點：誰來設安全規則？速度該慢到什麼程度？而在風險與報酬重新平衡前，現有 AI 估值是否還站得住腳？這些，都將在接下來的監管攻防與企業實際作為中，逐步攤牌。

點擊下方連結，開啟「美股K線APP」，獲得更多美股即時資訊喔！
https://www.cmoney.tw/r/56/9hlg37

免責宣言
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。