隨著生成式AI對算力需求出現爆發性成長，算力基礎設施的建置成本也同步爆發，能夠為廠商節省算力成本的混合型AI架構，或有機會成為CP值更高的基礎建設解決方案。高通表示混合型AI架構不是只在雲端進行處理，而是在雲端與邊緣裝置之間分配，協調AI工作負載，擴展並充分發揮其潛力。 具有超過10億個參數的AI模型，已經能在效能、精確度水準與雲端相近的手機上運行，可預見在不久的將來，有100億個參數以上的模型預計也將能在裝置上運行。
混合式AI不僅可讓生成式AI開發人員及供應商，能夠利用邊緣裝置中的算力來降低成本，更能在全球範圍提供效能、個人化、隱私及安全方面額外的優勢。混合型的AI幾乎適用於所有生成式AI應用和裝置類型，包括手機、筆電、MR頭盔、汽車及物聯網，商業化應用商機具有不小想像空間。
工業電腦凌華(6166)多年來就與上游晶片廠高通及Nvidia積極合作切入邊緣運算及AI 市場，在2018年與Nvidia簽訂Quadro Embedded合約，成為亞太唯一取得該合約的工業電腦業者，在嵌入式垂直巿場積極布局AI邊緣運算商機。隨著ChatGPT引爆生成式AI商機，凌華宣布推出Pocket AI新品，搶食衍生的混合式AI商機。公司稱其是一可靠的便捷途徑，可獲得令人印象深刻的GPU加速功能，而成本僅有具備同等GPU能力筆電的一小部分，此新品從4月起開放預購，6月起開始發貨貢獻營收。
Pocket AI主要用於AI開發，從仍在學習和驗證知識的學生與入門者，到可以培養和展示新概念的經驗人士均適用。專業圖形使用者將發現Pocket AI對CAD 3D內容和開發、2D插圖及加速影片處理非常有用。在嵌入式工業應用中，Pocket AI可以支援3D渲染、AI影像處理、具有可擴展性能的動態現場使用及行動工作站上的感測器融合配對。
