永无岛
| 项 | 信息 |
|---|---|
| 当前版本 | v1.0.0 |
| 最后更新 | 2026-04-19 |
| 适用范围 | 本地 AI（覆盖 Mac / Windows / Linux 全平台主流方案） |
| 语言 | 简体中文 |
| 许可协议 | CC BY-SA 4.0（署名 + 相同方式共享） |
| 反馈 / 勘误 | 欢迎转发、改编、贴在公司内网，发现错误请提 Issue |
一句话承诺：本书允许你免费下载、传播、翻译、改编，但必须署名作者并保持相同协议开源，禁止任何形式的"封装售卖"或"去名转售"。
这本书是写给谁的
- 完全没听说过"本地 AI"的人：你听过 ChatGPT、DeepSeek，但从来不知道 AI 还能装在自己电脑里、不联网也能用。
- 听过但觉得"那是程序员才能玩的东西"的人：你刷到过 Ollama、LM Studio 的视频，但看到一堆英文命令就关掉了。
- 担心隐私的人：你不想把日记、合同、孩子作业、医生报告、客户名单上传到任何云端，但又想要 AI 的好处。
- 断网党 / 出差党 / 弱网党：飞机上、地铁里、海外漫游、客户内网——你需要一个不联网也能干活的 AI。
- 预算敏感的人：你不想每月花 20 美元订阅一个 AI，希望"一次硬件投入，长期免费用"。
- 小公司、个体户、自由职业者：你想给自己的小作坊搭一个"内部 AI"，不让客户文件出公司。
- 家里有老人、孩子的人：你想给爸妈、给孩子配一个"不会被诱导消费、不会被广告推送、不会被记录画像"的 AI。
- 被 AI 焦虑刷屏的人：你看完短视频更焦虑了，想找一本"踏实、能动手"的书把这件事真正落地。
如果你属于以上任何一类，你来对地方了。
这本书不是什么
- 不是技术文档：你不会在这里看到推理引擎源码分析、CUDA 内核优化、量化算法证明。所有技术词第一次出现时，都会用大白话翻译一遍。
- 不是某一家厂商的官方宣传：本书会老老实实告诉你 Ollama 在哪些地方比 LM Studio 弱、Cherry Studio 在哪些地方比 AnythingLLM 强、苹果的统一内存架构对哪些用户是真香、对哪些用户是噱头。
- 不是"本地 AI 完全替代云端 AI"的鸡血文：本书第二章就老老实实告诉你——对绝大多数普通用户而言，本地 AI 是云端 AI 的补充，不是替代。
- 不是只讲一个产品的教程：市面上专讲 Ollama、专讲 LM Studio 的教程很多。本书讲的是所有本地 AI 都通用的能力——你今天学会的部署方式、模型挑选思路、提示词技巧，明年换了新工具也能继续用。
它是一本实战手册。每一章都让你"打开电脑就能跟着做"，做完就能立刻看到效果。
你将获得什么
读完整本书并跟着练习，你会：
- 真正理解本地 AI 是什么、它和"AI 助手 App"、"插件"、"云端大模型"有什么本质差别。
- 看懂 2026 年的本地 AI 全景图，知道 Ollama、LM Studio、Cherry Studio、AnythingLLM、Open WebUI、Jan、GPT4All、Dify 各自该用在哪。
- 完成你和本地 AI 的第一次对话——从安装到跑出第一段回答，全程不超过 5 分钟。
- 学会根据自己的电脑挑模型：8GB 内存能跑什么？M2 Pro 跑 70B 行不行？RTX 4060 用 Q4 还是 Q5？
- 把本地 AI 用到至少30 个真实场景：从写日记、读 PDF、做翻译、写代码，到搭知识库、做 Agent、接微信。
- 学会搭建你自己的本地知识库（RAG）——把家里几年的笔记、公司几百份合同、几本厚厚的 PDF 喂给 AI，让它替你检索。
- 掌握**本地 AI 智能体（Agent）**的基本玩法：自动整理桌面、自动归档发票、自动写日报，全程数据不出本机。
- 把本地 AI 接入你每天用得最多的软件：浏览器、Obsidian、VS Code、Apple 快捷指令、Raycast、微信。
- 知道本地 AI 的速度慢、爆显存、胡说八道、模型投毒这些坑在哪里，怎么避开。
- 看清未来 3 年端侧 AI、家用 AI 服务器、Apple Intelligence、骁龙 NPU 的演化路径，知道现在该把钱花在哪里、把时间投在哪里。
阅读路径建议
这本书一共 17 章正文 + 5 个附录。你不必从头读到尾，下面几条路径任选其一。
路径 A：完全新手（推荐）
预计：每天读一章，三周就能成为身边人眼中的"会本地 AI 的人"。
路径 B：只想立刻用起来
预计：1 小时跑通，先用起来再说。
路径 C：隐私敏感型（律师、医生、HR、家长）
路径 D：技术型用户（开发者、运维、极客）
路径 E：焦虑型读者
完整目录
| 章节 | 你会学到 |
|---|---|
| 00 序言：为什么 2026 年普通人也该有一个本地 AI | 三个真实小故事 + 这本书想做的事 |
| 第一部分：认识本地 AI | |
| 01 本地 AI 到底是什么 | 一句话定义 + 三块拼图 + 6 条常见误解 |
| 02 本地 AI 对比云端 AI | 13 维对比表 + 四类典型用户的选择 |
| 03 你的电脑能跑本地 AI 吗 | 3 分钟自检表 + 各档位机型能跑哪些模型 |
| 第二部分：动手搭起你的本地 AI | |
| 04 五分钟跑起你的第一个本地 AI | Mac/Linux 走 Ollama，Windows 走 LM Studio |
| 05 选模型：Llama / Qwen / DeepSeek / Gemma 怎么挑 | 7 个维度的 2026 年模型推荐表 |
| 06 模型大小与量化 | 一图看懂 1B–70B、Q2–Q8 |
| 第三部分：把本地 AI 用到日常生活里 | |
| 07 本地写作与日记：真正私密的创作伙伴 | 日记 / 公众号草稿 / 私密信件 3 个场景 |
| 08 本地翻译与外语学习：断网也能用 | 沉浸式翻译 / Bob 接本地模型，外语陪练 |
| 09 本地编程助手：代码补全与解释 | Continue / Cline / Cursor 接本地模型 |
| 10 本地文档总结与会议纪要 | PDF / Word / 录音三类素材的本地链路 |
| 11 搭建你的本地知识库（RAG） | Cherry Studio / AnythingLLM 5 步上手 |
| 第四部分：进阶玩法 | |
| 12 本地多模态：看图说话听声辨意 | 视觉 / 语音 / 出图三类本地多模态 |
| 13 本地 AI 智能体与工作流 | n8n / Dify / Coze 本地化 + 3 个家用 Agent |
| 14 把本地 AI 接入你日常用的软件 | Obsidian / VS Code / Apple 快捷指令 / Raycast / 微信 |
| 第五部分：避坑与展望 | |
| 15 常见问题与避坑 | 6 大类高频问题 + 一一解法 |
| 16 本地 AI 的安全、隐私与合规 | "本地不等于绝对安全" + 法律边界 |
| 17 未来已来：本地 AI 接下来 3 年的走向 | 端侧 AI、家用服务器、Agent OS |
| 附录 | |
| 附录 A 2026 年本地 AI 工具速查表 | 60+ 工具按 15 个类别分类速查，附"全家桶"组合推荐 |
| 附录 B 50 个开箱即用的本地 AI 提示词 | 写作 / 翻译 / 学习 / 工作 / 编程 / 生活 / 创意 7 类共 50 条提示词模板 |
| 附录 C 本地 AI 常见问题 FAQ | 决策 / 硬件 / 软件 / 模型 / 使用 / 安全 / 商业 7 类共 60 个真实问答 |
| 附录 D 本地 AI 术语表 | 100+ 术语 + 大白话解释 + 必要时举例 |
| 附录 E 30 天本地 AI 从零到能用打卡计划 | 30 天逐日打卡，从安装到 Agent 工作流，每天 30–60 分钟 |
致读者
这本书写得很慢，因为本地 AI 这件事本身就值得慢慢做。
云端 AI 是一杯外卖咖啡——便宜、快、不操心，但你不知道豆子哪里来、水煮没煮开、店员有没有把杯子洗干净。
本地 AI 是你家厨房里那台咖啡机——头一次装的时候有点麻烦，要选机器、选豆子、研磨、压粉，但从此每天早上的咖啡是你自己的，不会有人偷偷在里面加糖、加广告、加追踪。
愿你看完这本书后，再听到"本地 AI"四个字，不再觉得它是程序员的玩具，而是想到你家书桌上那台默默运转的小机器——它知道你最近在写什么，它替你回复邮件，它替你翻译合同，它陪你孩子练口语，但它从不把你的话告诉任何人。
这就是本地 AI 的浪漫所在。
开始吧。