根據一份最新研究報告，美國加州自2025年生效的AI偵測法規SB 942，在實施上面臨嚴峻挑戰。這項法規要求每月用戶數超過百萬的AI供應商，必須提供影像、影片與音訊內容的AI偵測工具（detector），違者每日可處以5,000美元的民事罰款。然而，研究發現，受該法規涵蓋的科技公司中，近半數未能提供符合規定的偵測工具，凸顯AI內容監管的困難。
由Indicator/WITNESS團隊成員Alexios Mantzarlis、Bruna Santos和Jacobo Castellanos主導的這項研究，針對Google、Meta、微軟（Microsoft）、OpenAI、Adobe、Grok、Midjourney、Mistral、HeyGen、Synthesia、ElevenLabs、Suno和TikTok等13家主要AI公司進行測試。結果顯示，最初僅有6家公司（Adobe、ElevenLabs、Google、Meta、TikTok、OpenAI）提供偵測工具。微軟旗下的圖形設計產品Microsoft Designer，其內建的檢查工具隨後也被認定符合要求。
然而，仍有Grok、Synthesia、Suno、HeyGen、Midjourney和Mistral等6家公司，未能提供任何AI偵測工具。這項研究也進一步測試了已提供偵測工具的可靠性。測試團隊針對85個檔案，在7個偵測器上執行了共243次測試，包含由AI生成後未經編輯的原始檔案、編輯過的AI生成檔案，以及經竄改以偽造AI憑證的非合成檔案，旨在測試誤判的可能性。
研究發現，多數偵測器在辨識自家未經編輯的AI內容時表現良好，達到了「最低標準」。但一旦AI內容經過編輯，偵測的可靠度便顯著下降。其中，僅Google和OpenAI的偵測工具能夠抵抗所有對編輯檔案的干預，並正確識別出內容的原始平台。這項結果揭示了即使有偵測工具，其效能也參差不齊，尤其在面對複雜或經修改的內容時，準確性仍有待提升。
這份研究報告不僅突顯加州AI監管法規在執行層面的挑戰，也為全球其他地區，包括台灣，在規劃AI相關法律框架時提供了重要的借鏡。面對AI生成內容（generative AI）可能被濫用於假訊息、深度偽造（deepfake）等潛在風險，如何制定有效且可執行的監管政策，並確保偵測技術的實用性與普及性，將是各國政府亟需深思的課題。
