4月2日,來自德國的AI團隊Libra發(fā)布了名為Vibe Agent的智能體產(chǎn)品。該智能體最大的特色是依靠低位(low-bit)人工智能模型提供底層支持,讓用戶可以用更低的成本,例如在本地的蘋果Mac電腦上,就能夠通過自然語言實現(xiàn)人機交互。
Libra團隊致力于Local AI領域,Local AI指在本地設備上運行人工智能,而不需要依賴遠程云服務器。因為無需支付云服務費用,對于一些預算有限的個人或企業(yè)來說,使用 Local AI 可以節(jié)省大量的成本。
在團隊發(fā)布的最新演示中,展示了用戶通過自然語言交互,并利用本地算力支持 Agent 進行Long-Horizon 推理,最終完成復雜任務的過程。
和Manus一樣,通過自然語言直接生成的方式簡化了人機交互的流程,讓沒有編程能力的人群也能使用并滿足需求,為Agent的廣泛應用提供了便利。
但是行業(yè)普遍認為,單次使用 Manus 要消耗約 1000k Token,起步 2 美元,成本高昂。Vibe Agent無需依賴按 Token 計費的 API 服務,長期使用成本或可降低 90% 以上。
技術層面,其采用基于混合精度量化和 Reasoning-Aware 低比特表征校準技術,將前沿大模型 (QwQ 32B、DeepSeek-R1-70B、Deepseek R1 671B 等) 精準壓縮至符合 Apple 消費級 Silicon 硬件計算架構的 3/4 比特混合精度表征,并與 Apple MLX 機器學習推理框架無縫融合。
在性能保持方面,將常規(guī) Instruct 類大語言模型性能損失精確控制在 1% 以內,內存需求較 FP16 模式顯著下降 75%+。
為突破本地設備資源限制與模型 Context 窗口制約,同時實現(xiàn)有效的 Token 聚合,Libra 團隊創(chuàng)新性地構建了事件驅動的 Token Vibe Orchestration (TVO) 策略。
Libra 提出一種創(chuàng)新的 Meta Agent-Orchestration (MAO) 框架,該框架針對 Orchestration 場景定制了專用策略智能體,使系統(tǒng)能夠自主推理、預測最佳協(xié)作路徑。通過對大量外部工具鏈、前后端即時交互 Context 進行系統(tǒng)化整合。這種設計確保各組件間無縫協(xié)作,即使在本地設備資源受限的情況下也能保持高效運行。