以前说”AI装进手机”，是科幻。现在不说了——直接下载。
你掏出手机，打开一个 App，和 AI 聊天——不用网，不付钱，对话内容永远不离开你的设备。
这件事，现在可以用 Google 的开源模型 Gemma 4 做到。
这篇文章，我帮你从零讲清楚：Gemma 4 是什么、它凭什么能装进手机、以及在 iPhone 上怎么一步步跑起来。
一、Gemma 4 是什么？先搞懂这件事
Gemma 4，是 Google于 2026 年 4 月 2 日正式发布的开源 AI 模型家族。
“开源”，就是代码和模型全部公开，Google 花几千万训练出来的 AI，直接打包送给全世界免费用。
但这次不一样的地方在于：Gemma 4 从一开始就不是冲着”云端聊天”去的。
它的设计目标，是让 AI 直接跑在你的手机、电脑、甚至树莓派和边缘硬件里——不依赖云端 API，在本地设备上完成真正的 Agent 工作流。
说人话：以前你想让 AI 帮你自动做一件事，几乎都要联网调用 OpenAI 或 Claude 的接口。Gemma 4 想做的，是让这件事脱离网络、在你设备上独立运行。
什么是”模型”？你可以理解成一个超级聪明的大���，经过海量文字、图片、音频训练出来的。你给它发消息，它能理解并回复。ChatGPT 背后也是这种东西，只是 OpenAI 不开放。
Gemma 4 这次发了四个版本，分层非常清晰：
| 版本 | 参数量 | 上下文窗口 | 定位 |
|---|---|---|---|
| E2B | 2.3B（实际激活） | 128K | 手机 / IoT / 边缘设备 |
| E4B | 4.5B（实际激活） | 128K | 手机 + Jetson / 树莓派 |
| 26B MoE | 4B 激活 / 26B 总量 | 256K | 高 TPS、低延迟，高配笔记本 |
| 31B Dense | 31B | 256K | 桌面工作站 / 专业 GPU |
这个分层的逻辑很明确：小的给设备跑，大的给有算力的人玩。
我们今天重点关注的是 E2B 和 E4B——这两个就是专门为手机和移动端设计的。
二、Gemma 4 有什么优势？凭什么值得关注
AI 开源模型这两年出了一大堆，Gemma 4 特殊在哪？
它把几个原本分散的条件第一次完整地捆在了一起：本地可运行 + Agent 可用 + 多模态 + 真开源商用。少一个，都没这么特殊。
2.1 又小又聪明
E2B 有效参数只有 2.3B，跑在手机上占内存约 4-6GB，iPhone 15 Pro 的 8GB 完全够用。
但小不代表笨。Google 用了 PLE 技术（每一层神经网络有独立的记忆单元），让小模型也能理解复杂内容。
结果：2B 的体积，干出了过去 7B 模型的活。
2.2 原生多模态——不是凑合出来的
能聊文字、看图片、理解视频、转写语音，而且不是”插件式”拼凑，是从架构层面原生支持。
实际能做什么拍一张菜单发给它，问”这道��有花生吗”——它直接读图回答。录段语音，让它帮你整理成文字摘要。支持 140 种语言，中文没问题。
这让它天然适合做本地语音助手和多模态 Agent。
2.3 专为 Agent 设计——不是嘴上说说
很多模型说”支持 Agent”，实际只是在聊天层包了层工具调用。
Gemma 4 原生支持 Function Call、JSON 结构化输出、System Instruction——可以直接接进真实系统和工具链。
翻译：让它自动调 API、控制 App、处理任务流，而不只是陪你聊天。
2.4 Apache 2.0——真开源，可商用
Apache 2.0 许可证：允许商用、再分发、内嵌产品、私有部署，没有额外条款。
对创业者的意义你可以把它嵌进自己的产品或 App 里，不用交钱，不用申请，不用担心 Google 哪天改规则把你卡死。
对创业者来说，这比跑分高几个点重要得多。
泼个冷水Gemma 4 E2B 是”够用”，不是”最强”。适合问答、翻译、总结，复杂推理和 GPT-4o、Claude 还有差距。
三、在 iPhone 上安装 Gemma 4：保姆级图文教程
本次实践所用工具：
| 工具类型 | 工具名 | 用途 |
|---|---|---|
| 手机 | iPhone 15 Pro Max | 运行本地模型 |
| 苹果账号 | 美区 Apple ID | 下载国区未上架的 App |
| 软件 1 | PocketPal AI | 下载并运行 GGUF 格式的模型 |
| 软件 2 | Google AI Edge Gallery | Google 官方出品，直接内置 Gemma 4 |
开始之前：先对一下设备
别急着下载，先看手机配置。
设备兼容性
- iPhone 15 Pro / 15 Pro Max（8GB 内存）✅
- iPhone 16 系列（8GB 内存）✅
- iPhone 15 标准版（6GB 内存）⚠️ 勉强能跑，体验一般
- iPhone 14 及以下 ❌ 不推荐，容易卡死
系统要求 iOS 15.1+，近三年的 iPhone 基本都满足。
两个 App 都需要外区 Apple ID 才能下载，国区搜不到。
方式一：Google AI Edge Gallery（更简单，推荐新手）
这是 Google 官方出的 App，直接内置了 Gemma 4，不需要手动找模型，开箱即用。
第一步：下载 App
用美区 Apple ID 打开 App Store，搜索 “Google AI Edge Gallery”，下载安装。
第二步：进入 App，选择功能
打开后首页会看到 “Try Gemma 4 today” 的横幅，提供两个入口：
- AI Chat — 直接和 Gemma 4 对话
- Agent Skills— 让模型执行有工具调用的任务
第三步：下载模型
点击Agent Skill后，会跳到模型选择页，看到 Gemma-4-E2B-it（2.54 GB，标注 Best overall）和 Gemma-4-E4B-it（3.61 GB）。
选好后点 Download，连 WiFi 等待下载完成，过程中不要退出 App。
选哪个版本？推荐先从 E2B 开始——体积小、速度快，日常问答足够用。E4B 效果更好但需要更多内存，iPhone 15 Pro Max 以上更稳。
第四步：开始对话
下载完成后直接点进去聊天，首次加载约 10-30 秒，之后完全本地运行，不需要网络。
除了文字对话，还可以试试 Ask Image——发一张图片给它分析。下图是用 E4B 分析一张街道照片的实测，中文回答，详细准确。
方式二：PocketPal AI（更灵活，支持自选模型）
PocketPal 是开源社区做的 App，优势是可以从 Hugging Face 下载任意 GGUF 格式的模型，不限于 Gemma 4。
第一步：下载 App
在App Store 搜索 “PocketPal AI”，下载安装。
第二步：首次打开，下载模型
安装完打开后，默认是空的——显示 “No Models Available”，需要先下载一个模型才能用。
点击 “Download Model” 按钮，进入 Models 页面。这里内置了一批推荐模型，包括 Gemma 2、Phi、Qwen 等，可以直接点 Download。
第三步：从 Hugging Face 搜索 Gemma 4
内置列表里默认没有 Gemma 4，点右下角的 ”+” 按钮，弹出 Hugging Face 搜索框。
搜索 “gemma-4”，能看到 unsloth 发布的 gemma-4-E2B-it、gemma-4-E4B-it、gemma-4-26B-A4B-it 等多个版本。
第四步：选择量化版本下载
点进 gemma-4-E2B-it，可以看到所有可用的 GGUF 文件。注意 BF16（10.3 GB）旁边有 “Low memory” 警告——手机跑不动，别选。
推荐选 IQ4_XS（3.97 GB） 或 Q3_K_M（3.52 GB），连 WiFi 下载，过程中不要退出 App。
注意看到 “Low memory” 标签的版本，手机基本无法正常运行，不要选。
第五步：开始对话
下载完成后回到 Chat 页面，顶部选择刚下载的模型，等待加载完成就能聊天了。
实际体验实际体验： iPhone 15 Pro 上 E2B 回复速度约 8-15 tokens/秒，中文对话流畅，翻译、总结、问答都没问题。复杂推理会慢一些，正常现象。
进阶：模型版本怎么选？
PocketPal 支持直接从 Hugging Face 导入模型，同一个模型往往有十几个量化版本可选，看着一堆 Q4_K_M、BF16、IQ4_XS 会头大。
这里帮你一次讲清楚。
先搞懂两个概念：
量化，就是把模型”压缩”——原始的大模型精度很高，但体积也大，量化就是牺牲一点精度换更小的体积，让手机跑得动。
bit 数，就是压缩程度——8-bit 压得少，质量接近原版；2-bit 压得狠，质量明显下降。
各档位一览：
| 量化版本 | 体积参考（E2B） | 特点 |
|---|---|---|
| BF16 | 9.31 GB | 接近原始精度，最吃内存，手机基本跑不动 |
| Q8_0 | 5.05 GB | 质量非常接近 BF16，体积小一半 |
| Q6_K | 4.5 GB | 高质量，效果和体积都不错 |
| Q5_K_M | ~3.5 GB | 比 4-bit 稳，推荐进阶用户 |
| Q4_K_M | ~3 GB | 经典首选 |
| IQ4_XS | ~2.8 GB | 略小于 Q4_K_M，效果接近 |
| Q3_K_M | ~2.2 GB | 省内存，但质量明显下降 |
| Q2_* / IQ2_* | ~1.5 GB | 极限压缩，只适合”先跑起来” |
命名里的字母是什么意思：
- Q = 普通量化；IQ = i-quant，更精细的压缩算法，同体积下通常更好
- _K = 较新的 K-quant 系列，比老版 Q4_0/Q4_1 更值
- _S / _M / _L = 同 bit 数里的不同变体，S 更省、M 更均衡
- UD- = Unsloth Dynamic 动态量化，对重要的层保留更高精度，同体积下通常质量更好，优先考虑
不想研究？一句话够了选 Q4_K_M，完事。 内存宽裕想再好一点：Q5_K_M 或 Q6_K。 设备比较紧张：IQ4_XS。 见到 UD-* 的版本可以优先选——同样大小，效果通常更保真。
两种方式怎么选？
| Google AI Edge Gallery | PocketPal AI | |
|---|---|---|
| 上手难度 | ⭐ 极简，开箱即用 | ⭐⭐ 需要手动选模型 |
| 模型选择 | 仅 Google 官方内置 | 支持任意 GGUF 模型 |
| 适合人群 | 纯体验，不折腾 | 想玩不同模型的进阶用户 |
第一次试的，直接用 Google AI Edge Gallery。想折腾更多模型的，用 PocketPal。
四、总结：三件事，现在就做
Gemma 4 真正做到的，是把”手机跑大模型”这件事的门槛，降到了普通人能迈过去的高度。
它特殊的地方不是跑分又高了几个点，而是第一次把这几件事完整捆在了一起：本地可运行、Agent 可用、原生多模态、真开源商用。
今天就能做的三件事：
1. 确认你的 iPhone 型号 — iPhone 15 Pro 以上，8GB 内存，开跑没问题
2. 用美区 Apple ID 下载 Google AI Edge Gallery — 官方出品，开箱即用，新手首选
3. 下载 Gemma 4 E2B，连 WiFi 等它跑完 — 3GB，一次下载，之后永远离线可用
不用订阅，不用联网，口袋里随时有个 AI 待命。
以前 AI 是云端的特权，现在是口袋里的工具。 开源的意义，就是让技术红利不只属于少数人。
如果这篇文章对你有帮助，欢迎分享给更多人！
部分信息可能已经过时