LLM

NVIDIA 近日宣布推出一項全新的技術，大幅降低大型語言模型（LLM）推理的成本與能耗，實現了高達 8 倍的效能提升，而同時不影響模型的準確性。這項技術的突破性進展可能將對生成式 AI 的普及應用產生深遠影響，尤其是在需要高效能且低成本運算的場景。 這項創新基於 NVIDIA 在 AI 加速計算領域多年的技術積累，結合了硬體和軟體的全新優化方案。該技術主要通過優化模型推理階段的計算流程，減少不必要的計算步驟，並提高硬體資源的利用率。這意味著企業和研究機構可以在降低運算成本的同時，依然保有

根據最新報導，OpenAI 正在考慮為其即將推出的大型語言模型（LLM），如 Strawberry 和 Orion，設定每月高達 2000 美元的訂閱費用。目前，OpenAI 的 ChatGPT Plus 服務每月收費為 20 美元，並且有數億用戶使用其免費版本。據報導，OpenAI 計劃在今年秋季推出下一代 AI 產品 Strawberry，這款產品將能夠解決當前 AI 模型無法解決的問題和任務，如解決從未遇到的數學問題、制定市場策略、解決複雜的文字謎題以及進行深入研究。 此外，Open