總部位於堪薩斯州的電力公用事業公司西星能源（Evergy）近期向堪薩斯州公共事業委員會（Kansas Corporation Commission, KCC）提出請求，希望修改監管案件的標準保護令，以避免人工智慧（AI）工具不當使用公司機密資訊，造成外洩風險。
西星能源發言人 Matt Lucht 表示，該公司要求額外的保護措施，特別禁止在「開放式 AI 工具」中使用機密案件資訊，但允許在「安全且封閉的 AI 系統」中，只要具備適當防護措施，即可使用。西星能源在提交的文件中指出，將機密或公司專有資訊輸入生成式 AI 工具，可能導致 AI 從這些輸入中學習，進而使 AI 工具的擁有者存取這些機密資訊。
此舉反映了業界對 AI 應用的隱私與安全擔憂。美國律師協會已針對 AI 工具的使用發布指南，警告律師除非能確保客戶機密資訊的安全性，否則不應使用此類工具。過去甚至有案例顯示，儘管 OpenAI 強調不會分享資訊，但用戶的聊天內容卻意外公開。衛奇塔州立大學（Wichita State University）商學院助理教授 Murtaza Nasir 警告，這些數據可能會被 AI 公司用於訓練模型，或用於了解這些業務本身，而部分 AI 公司最終可能成為其服務產業的競爭對手，構成潛在威脅。
堪薩斯州公共事業委員會公用事業處長 Justin Grady 提到，委員會已針對 AI 使用制定規則，主要目標是確保機密資訊不會被輸入任何 AI 平台。他承認，AI 在簡化重複性工作或快速搜尋數千頁法規方面，具有「無限」的潛力。然而，史丹佛大學（Stanford University）的一項評估也指出，「負責任的 AI」發展速度跟不上 AI 技術能力的進步，安全基準落後，事故發生率也急劇上升。
面對這些挑戰，業界正努力開發在企業或組織內部運行的「私人 AI 工具」，以在員工使用 AI 的同時維護隱私。Murtaza Nasir 舉例，像 Claude 或 OpenAI 這樣的 AI 公司，會為政府或國防企業提供特殊服務層級，保證數據不會被用於訓練或作其他用途。他也指出，開源模型目前是一個重要議題，因為這些模型甚至可以在個人電腦上運行簡單任務，賦予用戶更多控制權。然而，AI 公司訓練資料集的建立方式通常不公開，因為這是其競爭優勢的關鍵。
