谷歌首次在Mac平台发布了AI Edge Gallery应用,让AI爱好者能够本地运行其Gemma大语言模型(LLMs),无需连接互联网。
虽然AI Edge Gallery早已在iPhone上可用,但Mac一直落后。今天,谷歌通过其官网提供AI Edge Gallery应用的直接下载,改变了这一局面。
本地运行LLM有多重好处,不仅是可以离线工作,还能带来额外的隐私保护,并且本地LLM通常比向云服务器发送请求并等待响应更快。
除了新应用之外,谷歌还发布了Gemma 4 12B模型以及一款全新的AI驱动的设备端智能听写工具。
重度LLM用户早已能够在包括Mac在内的设备上本地运行谷歌的LLM。但这是谷歌自家工具首次向Mac用户开放。
你好,Gemma
下载新AI Edge Gallery工具的用户将能够运行Gemma 4 12B模型。该模型加入了现有的Gemma 4系列模型以及现有的Gemma 3n模型。
- Gemma-4-12B-it
- Gemma-4-E2B-it
- Gemma-4-E4B-it
- Gemma-3n-E2B-it
- Gemma-3n-E4B-it
全新的Gemma 4 12B模型将提供“智能体多模态智能”,专为“直接”在笔记本电脑上运行而设计。
谷歌表示,新模型足够小,可以在至少拥有16GB VRAM或统一内存的电脑上本地运行。这意味着所有现代苹果笔记本电脑都能正常使用,值得注意的例外是MacBook Neo。
优雅表达
谷歌还发布了AI Edge Eloquent,这是一款AI驱动的听写和编辑工具。它完全在设备上运行,因此无需互联网连接。
AI Edge Eloquent可在所有Mac应用中工作,并可通过键盘快捷键启动。这是一款之前在iPhone上可用、首次登陆Mac的应用。
用户可以选择自己喜欢的写作风格并添加自定义词汇,创建自定义词库。在推出时,AI Edge Eloquent仅支持英语,但更多语言即将到来。
谷歌AI Edge Eloquent是Mac和iPhone的免费下载应用。
更新 6月4日,美东时间上午11:02 据谷歌介绍,Gemma是一系列轻量级、最先进开源模型,基于用于创建Gemini模型的相同研究和技术构建。此内容已在标题和正文中澄清。