我的網誌
第三方機構崛起填補AI監管真空
兩個月前，獨立評估機構在價值數兆美元的人工智慧產業中還鮮少受到關注，如今卻被視為拯救產業的關鍵。Anthropic與OpenAI在確保先進模型安全與推動業務成長之間面臨激烈爭論，因此開始尋求模型評估與威脅研究機構(METR)、Apollo Research等小型第三方團體的協助。在缺乏聯邦法規的情況下，這些大多以非營利形式營運的評估機構，在資金空前湧入的AI產業中扮演著越來越重要的角色。
資金來源引發球員兼裁判疑慮
專家指出，目前最大的問題在於資金來源。究竟由誰支付費用讓這些機構進行審查，以及如何建立可行的商業模式，仍是未解之謎。目前，包含Anthropic與OpenAI等從AI熱潮中獲利的企業正在制定規則，這引發了外界對於球員兼裁判的擔憂。此外，OpenAI近期以「違反存取和處理機密公司資訊政策」為由解雇員工，部分前員工認為這與他們和第三方評估機構的溝通有關，更引發了企業可能在閉門狀態下忽視安全性的疑慮。
審核生態圈擴張並獲巨額注資
AI評估生態圈正迅速發展，除了小型非營利組織，也包含了埃森哲(ACN)等大型審計公司。業界人士預期，未來將有大量資金流入此生態圈。以非營利組織METR為例，該機構在過去六個月內獲得了約7,100萬美元的資金承諾，遠高於先前的規模。然而，這些通常只有數十名員工的小型機構，要面對擁有數百億美元資金與數千名員工的頂尖AI實驗室，雙方權力極度不對等，若要達到真正的第三方評估，財務獨立性將是關鍵。
政府監管與企業自律的拉鋸戰
為了避免第三方評估機構為了營收而對大型AI實驗室妥協，部分政策倡議者呼籲政府應介入建立獨立驗證組織(IVO)框架。目前，美國加州已率先簽署相關法案，建立AI審計員的州級註冊制度，並獲得Anthropic與OpenAI的支持。同時，美國總統川普近期在白宮舉辦的午餐會上，提出了被稱為具備道德約束力的協議，鼓勵企業在自願的基礎上與外部獨立審查員合作，包含輝達(NVDA)、Google(GOOGL)、Meta(META)等科技巨頭高層皆簽署了該文件。
爭奪市場大餅仍需獲取大眾信任
儘管各大AI企業承諾將提供外部審查員必要的設備與權限，但具體的執行標準與透明度仍有待觀察。評估機構呼籲，這些審核人員應受到免於報復的保護，並獲得與企業內部高權限員工同等的訪問權限。市場分析認為，OpenAI與Anthropic等企業近期在安全立場上的轉變，主要是因為他們意識到，若缺乏大眾的信任，將無法順利推出更先進的系統。在這些企業積極邁向公開市場並尋求破兆美元估值的過程中，如何在激烈競爭與安全性之間取得平衡，將是未來的核心課題。
