在人工智慧（AI）技術競逐白熱化之際，兩大AI巨頭——開放人工智慧（OpenAI）與人擇原理（Anthropic）相繼發表其最先進的網路安全AI模型，引發各界對AI安全、雙重用途潛力及政府監管的廣泛討論。開放人工智慧於近日推出GPT-5.4-Cyber，以應對人擇原理早前揭露的強大模型Mythos所帶來的挑戰。
人擇原理Mythos：實力驚人卻陷爭議
人擇原理的Mythos模型被譽為該公司迄今為止最強大的AI，據稱在網路安全領域超越人類專家。它具備自動識別軟體漏洞並開發惡意利用程式的能力，在內部測試中，成功發現主要作業系統和網頁瀏覽器中數千個關鍵漏洞，包括一個OpenBSD系統中潛伏27年之久、透過網路連線即可導致機器崩潰的漏洞，以及FFmpeg中一個自動化工具未能偵測到的16年歷史漏洞。所有發現的漏洞均已通報並修補。
儘管能力非凡，人擇原理執行長達里歐·阿莫戴（Dario Amodei）仍認為Mythos「過於強大，尚不宜廣泛發布」，目前僅限約40個致力於負責任使用的組織存取。該公司也發起了「玻璃之翼計畫」（Project Glasswing），投入高達1億美元的使用額度與400萬美元捐款，用於協助開源安全組織利用Mythos強化防禦能力。參與該計畫的知名企業與組織包括蘋果（Apple）、Linux基金會（Linux Foundation）、CrowdStrike、Google搜尋、摩根大通（JPMorganChase）和輝達（NVIDIA）。
然而，Mythos的雙重用途能力也引發美國政府的擔憂。美國國防部（US Department of War，即五角大廈）因擔憂其攻擊潛力、監控限制及廣泛存取疑慮，已將人擇原理列為「供應鏈風險」，並禁止五角大廈及其承包商使用其模型。達里歐·阿莫戴曾於4月17日與白宮幕僚長Susie Wiles及財政部長史考特·貝森特（Scott Bessent）會面，討論Mythos在政府機構的應用與人擇原理的安全措施。儘管面臨國防部的禁令，美國國家安全局（NSA）據報仍在使用Mythos，主要用於掃描其自身基礎設施的漏洞。近期聯邦上訴法院駁回了阻止五角大廈將人擇原理列入國家安全黑名單的申請。
開放人工智慧GPT-5.4-Cyber：專為防禦而生
為回應市場對高能力AI的需求，開放人工智慧推出了GPT-5.4-Cyber，一款專門為網路安全專業人員設計的AI模型，旨在加速偵測與修復安全漏洞。GPT-5.4-Cyber在設計上具備「網路許可」（cyber-permissive）特性，能降低合法安全相關查詢的拒絕門檻，並提供二進制逆向工程等進階防禦工作能力，讓安全人員無需原始碼即可分析編譯後的軟體以評估其潛在惡意程式、漏洞及安全性。開放人工智慧透過其「網路信任存取計畫」（Trusted Access for Cyber, TAC）嚴格限制對GPT-5.4-Cyber的存取，要求使用者進行身份驗證，並將計畫從試點擴展至數千名驗證過的防禦者和數百個專業團隊，以確保強大AI工具用於保護關鍵基礎設施。
開放人工智慧強調其「迭代部署」策略，透過小規模、受控的階段性發布，從實際應用中學習並適應。這與其2019年因擔心惡意使用而暫緩發布GPT-2模型時的謹慎態度有所不同。該公司承諾提供1000萬美元的API額度支持網路防禦者，目標是將安全防護從偶爾審計轉變為編寫程式碼時的持續修補過程。
AI雙面刃：安全與濫用風險
GPT-5.4-Cyber與Mythos等先進AI模型都具備「雙重用途」特性，既能用於防禦也能用於攻擊。開放人工智慧坦承，即使其模型已接受訓練以拒絕竊取憑證或建立惡意軟體的請求，但安全系統並非完美，熟練的攻擊者仍可能透過「越獄」等手段繞過防護。專家如George Hotz、Gary Marcus和Yann LeCun對人擇原理的部分聲稱表示懷疑。
兩家公司均致力於透過嚴格的存取控制與安全措施來應對潛在濫用風險。人擇原理計劃在廣泛發布此類高效能模型之前，開發適當的保護機制以偵測並阻止危險輸出。開放人工智慧則相信，將最開放的模型限制於經過驗證的信任使用者，是負責任的做法，以應對殘餘風險，並持續為下一代AI開發更全面的防禦措施。這些發展標誌著人工智慧領域在追求技術突破的同時，也必須面對更嚴峻的安全與倫理挑戰。
