專注於AI代理程式（AI Agents）監測技術的新創公司 Lemma，日前宣布完成230萬美元種子輪募資。這筆資金將用於持續開發其監測平台，旨在於終端使用者發現前，即時偵測並排除人工智慧系統中的潛在故障。
隨著人工智慧（AI）技術日益複雜，AI代理程式（AI Agents）作為一種能夠自主決策並執行多步驟任務的人工智慧系統，正被廣泛應用於客戶支援、軟體開發、數據分析等關鍵業務流程。然而，相較於傳統軟體系統，AI代理程式的行為模式更具動態性與不可預測性。傳統的軟體監測方法多依賴開發者預設的錯誤規則，但對於AI代理程式而言，若系統誤解使用者意圖、選擇不恰當策略，或產生技術上看似有效卻未達成預期目標的結果，這些「未預期」的故障模式便難以被偵測到。
為了解決此挑戰，Lemma 發展的 AI故障偵測技術，不僅著眼於傳統的技術錯誤訊號，更透過理解AI代理程式的「意圖」與整體目標，來判斷其工作流程是否真正成功。即使AI代理程式表面上執行了所有要求動作且沒有軟體錯誤，若最終結果不正確或不完整，該技術也能將其識別為故障。這種方法有助於減少開發者手動建立監測邏輯的需求，特別是在漫長且多步驟的自主工作流程中，即便錯誤發生在初期，也能及早被發現。
當AI代理程式從簡單的指令回應，進化到能夠自主完成複雜工作流程時，其可靠性與穩定性變得至關重要。任何在財務、營運或客戶互動層面的故障，都可能帶來重大影響。Lemma 的技術有助於提升AI代理程式在實際營運環境中的可靠度，讓企業能更安心地將AI系統部署於高可靠性要求的任務中。
此輪230萬美元的種子輪募資將為 Lemma 提供進一步資源，以優化其監測技術並與更多部署自主AI系統的開發者合作。隨著AI代理程式的發展重點從「能否完成任務」轉向「能否穩定可靠地完成任務」，像 Lemma 這樣的故障偵測解決方案，預計將在未來的AI生態系中扮演關鍵角色。
