Google 近日悄然推出了一款名為「AI Edge Gallery」的實驗性 Android 應用程式,允許用戶在無需雲端支援的情況下,在智能手機上直接運行人工智慧模型。AI Edge Gallery 應用程式支援用戶從 Hugging Face 平台下載並執行各類 AI 模型,包括影像分析、文本生成、程式碼輔助以及多輪對話等功能,所有資料處理均在本地進行,無需連接網路。該應用程式以開源形式發布,遵循 Apache 2.0 協議,並通過 GitHub 提供,而非傳統應用商店。
此應用以 Google 的 LiteRT 平台和 MediaPipe 框架為基礎,適用於多種機器學習框架(如 JAX、Keras、PyTorch 及 TensorFlow),並搭載僅 529MB 大小的 Gemma 3 語言模型,能夠在移動設備 GPU 上實現每秒 2585 個 token 的預加載推論能力。用戶可享受亞秒級的回應速度,體驗接近雲端服務。
核心功能包括 AI 聊天、影像問答和 Prompt Lab,能執行文本摘要、程式碼生成等多樣化任務,並提供即時性能指標。此外,應用程式還採用量化技術,顯著降低模型大小與延遲,優化行動運算。這項技術進步不僅提升了 AI 應用效率,還在數據隱私和企業安全上帶來革命性影響。資料處理全程在設備本地完成,減少隱私洩露風險,特別適用於醫療與金融等需要高數據敏感度的行業。然而,該應用目前仍處於實驗階段,存在安裝步驟複雜、錯誤回應及性能差異等挑戰。Google 計劃持續改進技術,解決這些問題,並藉此重新定義 AI 的運作模式,進一步分散 AI 運算的基礎架構。
Google 此舉也被視為對抗 Apple 及 Qualcomm 等競爭者的戰略佈局,專注於平台基礎設施建設,而非單一產品功能。此舉或將讓每部智能手機成為分佈式 AI 網路的一部分,成為下一波 AI 技術革命的關鍵。