Good Luck To You!

手机扫一扫

Meta今年壓軸開源AI模型Llama3.3登場:700億引數,效能比肩4050億

鳳凰科技 2024-12-08 01:31:43 2

IT之家 12 月 7 日訊息,Meta 今年的壓軸 AI 大模型來了。Meta 昨日(12 月 6 日)釋出 Llama 3.3,共有 700 億引數,不過效能方面媲美擁有 4050 億引數的 Llama 3.1。

Meta 強調 Llama 3.3 模型效率更高、成本更低,可以在標準工作站上執行,降低運營成本的同時,提供高質量文字 AI 解決方案。

Llama 3.3 模型重點最佳化了多語言支援,支援英語、德語、法語、義大利語、葡萄牙語、印地語、西班牙語和泰語 8 種語言。

在架構方面,Llama 3.3 是一款自迴歸(auto-regressive)語言模型,使用最佳化的 transformer 架構,其微調版本使用了監督式微調(SFT)和基於人類反饋的強化學習(RLHF),讓其與人類對有用性和安全性的偏好保持一致。

Llama 3.3 上下文長度為 128K,支援多種工具使用格式,可與外部工具和服務整合,擴充套件模型的功能。

安全方面,Meta 採用資料過濾、模型微調和系統級安全防護等措施,以降低模型濫用的風險;此外 Meta 鼓勵開發者在部署 Llama 3.3 時採取必要的安全措施,例如 Llama Guard 3、Prompt Guard 和 Code Shield,以確保模型的負責任使用。