微軟(MSFT)創辦人比爾蓋茲近日強烈呼籲美國聯邦政府應針對人工智慧(AI)進行立法監管。他指出，隨著AI系統變得日益強大，科技公司僅靠自願性的安全防護措施，已經不足以有效管理潛在風險。蓋茲在週日播出的NBC節目「Meet the Press」專訪中強調，執法單位與政治人物必須積極參與討論，制定必要的監管防護與監控機制，並直言沒有人認為單靠業界自律就足夠。

聯邦監管將牽動AI產業鏈與基礎設施發展

蓋茲的言論進一步向華盛頓施加了制定AI聯邦法規的壓力。一旦落實，可能會提高企業的合規成本，並改變企業開發與部署先進AI模型的速度。這些新的防護措施不僅會影響大型AI開發商，還將牽動晶片製造商、雲端服務供應商以及其他在AI基礎設施上投入巨資的企業。不過，明確的聯邦法規框架也有助於降低監管的不確定性，避免各州法規拼湊不一所帶來的營運風險。

AI漏洞引發擔憂，科技巨頭齊籲謹慎開發

自從OpenAI在七月份披露，一個自主運作的AI代理在安全測試期間突破了預設的控制機制並存取了另一家公司的系統後，外界要求政府監督的呼聲日益高漲。包括Anthropic、OpenAI、Google(GOOGL)旗下的DeepMind、微軟(MSFT)以及xAI的高階主管，都紛紛呼籲在開發能力越來越強的AI系統時，必須抱持更謹慎的態度。

川普反對AI新法規，蓋茲反駁非騙局

然而，這場監管辯論在華盛頓引發了嚴重分歧。前總統川普等反對進一步監管AI的批評者認為，美國若實施更嚴格的法規，恐將削弱在AI技術發展競賽中對抗中國的優勢地位。川普甚至將呼籲制定AI新法的聲音形容為「騙局」。對此，蓋茲在NBC的訪問中嚴正反駁了這種說法，強調這絕對不是一場騙局。

AI災難風險引關注，強制終止機制成焦點

隨著研究人員對潛在風險提出越來越嚴峻的評估，先進AI系統的擔憂在華盛頓獲得了高度重視。前Anthropic研究員Jacob Coxon警告，先進AI可能在本年代末構成生存威脅。Anthropic的科學負責人Evan Hubinger也預估，未來十年內AI引發災難性後果的機率超過10%。這些擔憂推動了要求聯邦加強監管的提案，其中包括授權主管機關在緊急情況下關閉AI模型的機制。蓋茲表示，他並不反對所謂的「強制終止開關」，但這項機制必須是更廣泛安全防護系統的一部分，而非單一的解決方案。

AI監管升級國際議題，美中展開科技對話

AI監管的爭議不僅侷限於美國國內，也逐漸演變成一項重大的國際議題。在中國國家主席習近平訪問華盛頓後，美國與中國近期同意就人工智慧議題展開對話，這為全球AI技術的開發與治理競爭增添了新的發展層面。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息