美國人工智慧公司 Anthropic 近日向美國國會議員提出一份關於 AI 安全的草案，希望能影響聯邦政府對其發展的監管方向。然而，這項提案因其設定的政府介入門檻過高，引發部分 AI 安全倡議者的批評，認為這可能削弱而非加強對潛在危險 AI 模型的監管。
根據《Futurism》報導，Anthropic 提案的「AI 緊急開關」機制，只有在 AI 模型對公共安全構成「迫在眉睫的威脅」時才能啟動。具體來說，這些威脅需達到極高標準，例如：造成 50 人以上嚴重傷亡、或超過 10 億美元的財產損失。威脅來源包括生物武器的釋放、災難性的網路攻擊，或 AI 模型脫離開發商控制。一旦第三方監察機構發現這些條件即將達成，需在 72 小時內向美國商務部報告，最終由聯邦法官裁定是否阻止該 AI 模型發布。Anthropic 表示，這項提案是其自今年 6 月以來，向聯邦與各州立法者倡議的「先進 AI 框架」一部分。
然而，這份草案遭到外界諸多質疑。《Transformer》指出，該法案被認為比目前美國國會正在討論的其他 AI 法案（如 Obernolte/Trahan FRONTIER Act）更為寬鬆。批評者擔憂，Anthropic 的提案可能讓阻止危險 AI 模型發布的法律程序變得更困難。例如，法案並未對負責評估 AI 模型風險的第三方評估機構設立任何標準或許可要求，允許這些機構自行認證。此外，當法院決定是否阻止 AI 模型時，必須考量對開發商、用戶和公眾造成的損害，卻未要求考量不阻止模型可能造成的危害。
該草案也引發各州對 AI 立法權的擔憂，因其旨在凌駕於加州 SB 53、紐約 RAISE 和伊利諾州 SB 315 等各州針對「前沿 AI」風險的法律之上，可能阻止各州立法機關或法院基於災難性風險而暫停 AI 模型。對此，Anthropic 聯邦事務主管 Anthony Cimino 表示，法案中關於預佔州法的語言「不夠精確」，將會進行修改。儘管如此，AI 政策專家 Zvi Mowshowitz 批評，Anthropic 似乎更擔心政府會對其自身實施監管，而非普遍的監管能力。
儘管本次提案引發爭議，Anthropic 一直以來都主張應重視 AI 安全。該公司共同創辦人兼執行長達里奧·阿莫代（Dario Amodei）曾呼籲業界應放慢「前沿 AI」的發展速度，並就共享的安全標準達成共識。包含達里奧·阿莫代在內，OpenAI 執行長奧特曼（Sam Altman）、輝達執行長黃仁勳、特斯拉執行長馬斯克、Google 執行長皮蔡及 Meta 執行長祖克柏等多位科技巨頭，也曾共同簽署白宮提出的「超級智慧協議」，但該協議為自願性質，缺乏強制執行機制。
