第十五章 AI 安全与隐私——保护好自己和家人

15.1 一个真实故事：HR 把简历给 AI 整理⋯⋯泄露了

2023 年三星的 ChatGPT 泄密事件

2023 年 4 月，韩国三星半导体部门发生 3 起严重事件：

• 事件 1：工程师把"半导体设备的源代码"丢给 ChatGPT，让它"找 bug"——源代码被传到 OpenAI 服务器
• 事件 2：另一位工程师把"会议录音"转写给 ChatGPT，让它"整理纪要"——会议涉及商业机密
• 事件 3：一位员工把"硬件良品率统计"上传给 ChatGPT 让其优化——核心运营数据外泄

结果：三星紧急下令"禁止员工在工作中使用 ChatGPT"，并启动内部调查。

这是 ChatGPT 上线半年后的事——当时全世界都在用，几乎没人意识到"数据风险"。

2024 年深圳的"AI 公司财务"事件

某创业公司的 CFO 用 ChatGPT 帮自己做"财务分析"。

她图方便，把公司的工资单、客户合同、银行流水全部上传——"AI，帮我分析下这季度的财务状况"。

AI 给出了非常专业的分析。

但 3 个月后，她发现：竞争对手开始按"她公司的报价稍低 5%"主动接触客户——精准到每个客户的报价。

调查后猜测：虽然 OpenAI 不会"故意泄露"——但她的会话可能被用于"模型训练"，间接被其他用户"问出来"了。

（注：这是早期 ChatGPT 默认行为；现在 ChatGPT 默认不用"对话训练模型"，但部分功能仍可能保留 30 天。）

这两个故事告诉我们：AI 的"便利性"背后，有"数据风险"。

要"用得好"，就必须"用得安全"。

15.2 你和 AI 的对话，去了哪里？

数据流向

你给 AI 发一条消息——它经历了：

[你的手机/电脑]
     ↓
[网络传输]（可能加密，可能不）
     ↓
[AI 公司的服务器]（在中国/美国/其他地方）
     ↓
[AI 模型处理]
     ↓
[返回给你]

同时，可能：
[存档保留]（用于："训练新模型"、"质量审核"、"投诉响应"）
[人工审核]（如果触发"敏感词")
[安全检查]（合规性、违法性）

不同 AI 的"数据政策"

结论：任何 AI 都不能完全确保"你说的话不被任何人看到"。

警惕"团队/企业版"

很多公司用"企业版"AI，号称"数据不外泄"——这通常更安全（合同保护），但不是"零风险"。

15.3 红线：哪些信息"绝对不能"告诉 AI

我把"高敏感数据"分为 5 个等级：

等级 1：绝对禁止（涉及身份和资金）

绝对绝对不要告诉任何 AI：

• ❌ 身份证号 / 护照号 / 户口本
• ❌ 银行卡号 / 支付密码 / 验证码 / CVV
• ❌ 微信支付 / 支付宝密码
• ❌ 网银 U 盾 / 数字证书
• ❌ 各类"账号密码"（邮箱、社交、办公）
• ❌ 实时短信验证码
• ❌ 公司财务密码 / 网银密码

等级 2：高度敏感（涉及健康和私密）

最好不要告诉公网 AI：

• ⚠️ 详细病历（疾病诊断、手术记录、用药）
• ⚠️ 心理咨询记录
• ⚠️ 性取向 / 性生活
• ⚠️ 家暴 / 受害经历
• ⚠️ 涉及违法的事
• ⚠️ 极私密的家庭矛盾

如果一定要问，用"假名 + 关键症状"，不要给"全部隐私"。

等级 3：商业机密

职场 / 创业的人：

• ⚠️ 公司源代码
• ⚠️ 公司财务报表 / 工资单
• ⚠️ 客户名单 + 联系方式
• ⚠️ 商业合同 / 报价单
• ⚠️ 内部会议录音
• ⚠️ 战略规划 / 商业秘密

如何安全使用：

• 用本地 AI（Ollama 部署的开源模型）
• 用企业版（签了保密协议的）
• 把"敏感信息"先脱敏（公司名、人名、数字打码）

等级 4：他人隐私

• ⚠️ 朋友的"分手细节"
• ⚠️ 同事的"私生活八卦"
• ⚠️ 家人的"病情详情"
• ⚠️ 邻居的"家庭纠纷"

原则：别人的事，先问别人愿不愿意。

等级 5：可能引起法律问题的内容

• ⚠️ 涉及版权的全文上传（书、电影剧本、商业内容）
• ⚠️ 涉及他人肖像 / 声音的素材
• ⚠️ 对未成年人的不当问题
• ⚠️ 试图让 AI 帮忙做违法的事

15.4 数据安全 5 条铁律

铁律 1：能不给的就不给

如果 AI 能帮你解决问题，"不需要"那个信息——就别给。

❌ "AI 帮我写封情书给张三，他是我前同事，3 年前在 XX 公司，住在 XX 小区⋯⋯"

✅ "AI 帮我写封情书，对象是我前同事。"

铁律 2：脱敏处理

真名 → 假名 / 化名

原文：
"老板王XX 今天又骂我了，他每次都因为 XX 项目（客户是 XX 公司）发火⋯⋯"

脱敏后：
"老板今天又骂我了，他每次都因为 X 项目（客户是 Y 公司）发火⋯⋯"

真实数字 → 虚化

原文："我月薪 23456 元，房贷 8765 元⋯⋯"

脱敏后："我月薪两万多，房贷接近一万⋯⋯"

铁律 3：分会话原则

不要把"工作 / 生活 / 隐私"全混在一个会话里。

为什么？

• 万一被人看到（家人 / 同事），全暴露
• AI 的"长期记忆"如果开了，会跨场景"串"

建议做法：

• 工作账号 / 生活账号分开（甚至不同 AI）
• 一类话题开一个新对话
• 谈完敏感话题"立刻删除"

铁律 4：定期清理

每个月做一次"AI 数据大扫除"：

ChatGPT：

1. Settings → Data Controls
2. 关闭"Improve the model for everyone"（不让对话训练模型）
3. 删除不需要的"Memory"（如果开了）
4. Conversations → 删除敏感对话
5. Export Data 备份后清理

国产 AI（豆包 / DeepSeek 等）：

1. 设置 → 隐私 / 数据
2. 关闭"用于训练"（如果有）
3. 删除敏感会话
4. 删除上传的文件

铁律 5：高敏感场景用本地 AI

如果你做的事真的非常敏感——

• 涉及商业秘密
• 涉及法律灰色
• 涉及个人极私密内容

用本地部署的 AI：

• Ollama（最简单）：ollama run llama3.3 或 ollama run qwen2.5
• LM Studio（图形化）
• Jan（macOS 友好）

优点：数据完全不出门 缺点：模型能力比不上云端最强的；硬件要求高

15.5 AI 时代的"新型骗局"

骗局 1：声音克隆诈骗（电诈升级版）

场景重现

你妈在家，突然接到电话——你的声音，急切地说：

"妈！我出车祸了！现在在医院，急用 5 万块钱，转到这个账号——"

她惊慌失措，赶紧转账。

实际上：那不是你——是骗子用 AI 克隆了你的声音。

怎么克隆的？

骗子只需要你 30 秒的声音——可以从你的：

• 抖音 / 视频号 / 朋友圈视频
• 微信语音消息（如果他们获取过）
• 公开演讲 / 直播

30 秒足够"完美克隆"——音色、语调、口音、说话习惯全像。

怎么防？

全家约定一个"暗号"：

例：

"电话里说要钱时，必须说'今天的天气真好'——不说就是骗子。"

或：

"只要电话里说'急用钱'，立刻挂断 + 直接打回去 + 走家庭群里固定的微信号 + 视频通话确认。"

3 个原则：

1. 听到"亲人 / 急用钱"——立刻警觉
2. 不轻信声音——声音可以伪造
3. 必视频确认——视频也可能被伪造，但难度更大；尤其要看"嘴型 + 眼神 + 背景"

骗局 2：深度伪造（Deepfake）视频

场景重现

你看到一个视频：某领导 / 某明星 / 某专家说一些"耸人听闻"的话——

可能是假的。

2024 年，全球已发生多起：

• 假"马斯克"推荐加密货币
• 假"某领导"发表"重大政策"
• 假"明星"为产品代言
• 假"老师"对学生说不当言论

怎么识别？

看 4 个细节：

1. 嘴型 / 语音同步：早期深度伪造，嘴型和声音对不上
2. 眼神：AI 的眼神有时"飘"，眨眼频率不自然
3. 皮肤 / 边缘：脸的边缘可能"发糊"或者"有裂痕"
4. 手 / 牙齿 / 耳朵：AI 经常"画错"细节——多手指、缺耳朵、错位

核心策略：

• 看到"重大消息"——别立刻信 → 去官方渠道（央视、人民日报、官方账号）核实
• 看到"明星推荐"——大概率是假的 → 真明星不会在小渠道推
• 看到"领导讲话"——找权威媒体 → 中国政府网、新华社

骗局 3：AI 钓鱼邮件 / 短信

场景重现

你收到一封邮件：

"尊敬的 [你的真名]， 您在 [你常用的银行] 的账户被冻结，请点击下方链接验证身份⋯⋯ 您的余额：[你的真实账户余额]"

完全没有错别字、措辞专业、私人信息精准——你差点就点了。

这就是 AI 钓鱼——AI 让"骗子"能产生完美的、个性化的诈骗内容。

怎么防？

1. 不点不明链接——所有"验证身份 / 重置密码"，自己打开 App / 浏览器输入网址，不要点
2. 不在邮件里输信息——任何"输入身份证 / 银行卡"的邮件都是诈骗
3. 不轻信"紧急 / 立刻"——骗子最喜欢制造紧迫感
4. 核对发件人地址——不只看名字，看"邮箱地址"是否正常

骗局 4：AI 仿冒"官方客服"

场景重现

你网购退款，"客服"主动联系你（电话 / QQ / 微信）：

"您有一笔订单显示问题，我帮您处理——请加我微信，告诉我您的账号⋯⋯"

声音 / 语气100% 像真客服——AI 加持。

怎么防？

1. 官方客服只走官方 App——不要相信任何"主动来加你的客服"
2. 官方客服永远不会要密码 / 验证码 / 转账
3. 官方客服永远不会让你"扫陌生二维码"
4. 官方客服永远不会让你"下载第三方 App"

骗局 5：AI 生成的"虚假新闻"

场景重现

你在某群 / 某平台看到：

"震惊！[某地] 发生 [某事件]！多人受伤！转发提醒亲友！"

附带"现场照片"——非常真实。

这可能完全是 AI 生成的——为了博流量 / 引起恐慌。

怎么防？

1. 重大消息——找官方核实（人民日报、央视、新华社）
2. 不轻易转发——你转发了，就是"帮骗子传谣"
3. 图片可以反向搜索"（百度识图、Google Lens、谷歌图片搜索）确认是否是新生成
4. 教家人——爸妈最容易被骗

15.6 教爸妈"安全用 AI"

给爸妈的"3 不"原则

"三不"口诀：

不输密码、不转账、不轻信

贴在他们手机上 / 冰箱上 / 客厅墙上。

爸妈"AI 速成 5 课"

第 1 课（10 分钟）：什么是 AI

• "就是手机里的'万能助手'，可以聊天、问问题、找答案"
• 演示：让爸妈问个简单问题（"今天北京天气"）

第 2 课（10 分钟）：怎么用语音

• 教他们点"语音输入"
• 让他们试 3 次

第 3 课（10 分钟）：3 个最有用的场景

• 问健康常识
• 问菜谱
• 问怎么用某个东西

第 4 课（10 分钟）：什么不能告诉 AI

• 身份证不能说
• 银行卡不能说
• 密码不能说
• 钱不能转给 AI 让它操作

第 5 课（10 分钟）：怎么辨别骗局

• 接到"我是你儿子 / 女儿"的电话——挂掉，自己打回去
• 看到"领导讲话"——找官方核实
• 看到"X X 中奖"——不点

帮爸妈"安全配置"AI

打开他们的 AI App，帮他们：

1. ✅ 关闭"分享对话用于训练"
2. ✅ 关闭"位置信息"（如果不需要）
3. ✅ 关闭"麦克风常开"（防止被监听）
4. ✅ 设置"不主动推送"（避免被各种通知干扰）
5. ✅ 存好"全家紧急联系人"——有问题随时找你

15.7 教孩子"安全用 AI"

给孩子的"4 个原则"

第 1 个原则：先问爸妈

任何"输入个人信息"的事，先问爸妈。

第 2 个原则：不轻信

AI 说的不一定都对——尤其是涉及"重大决定"。

第 3 个原则：不依赖

作业、考试自己做——AI 是"帮助理解"，不是"替我做"。

第 4 个原则：不沉迷

每天用 AI 限时（例如 30-60 分钟），其他时间和真人玩。

给青少年的"额外提醒"

针对 12 岁以上：

1. 不和 AI"恋爱"——很多 App 推"AI 男友 / 女友"，可以试，不能沉迷
2. 不让 AI 替你"思考人生"——重要的决定问自己
3. 不接触"不健康"AI——色情、暴力、教唆类
4. 遇到"奇怪问题"——告诉爸妈——AI 也会出"奇怪反应"
5. 保护朋友的隐私——不在 AI 上"八卦同学"

家长怎么"帮孩子"配置 AI

1. ✅ 用"未成年模式"（豆包、抖音都有）
2. ✅ 限制使用时间（系统级时间限制）
3. ✅ 定期看孩子的"对话历史"（提前和孩子说好，不是偷看）
4. ✅ 教孩子"识别风险"——不是"禁止用"，是"教会用"
5. ✅ 大人和孩子一起学 AI——这是最有效的方式

15.8 给企业员工的"AI 使用规范"

如果你在公司用 AI——至少做到 5 件事：

1. ✅ 问清楚公司是否允许用 AI（很多公司有规定）
2. ✅ **不上传"客户信息""财务数据"**到公网 AI
3. ✅ 不上传"代码 / 设计 / 文档" 到公网 AI（除非脱敏）
4. ✅ 公司提供"企业版"——优先用企业版
5. ✅ 不用 AI 帮"违规 / 违法"的事

本章小抄

AI 安全速查
────────────

数据安全 5 条铁律：
1. 能不给的不给
2. 脱敏（真名→假名、真数字→约数）
3. 分会话（工作/生活分开）
4. 定期清理
5. 高敏感用本地 AI

绝对禁止告诉 AI：
- 身份证、银行卡、密码、验证码

5 大新型骗局：
1. 声音克隆诈骗 → 全家定"暗号"
2. 深度伪造视频 → 找官方核实
3. AI 钓鱼邮件 → 不点链接、不输密码
4. 仿冒官方客服 → 走官方 App
5. AI 虚假新闻 → 不转发、不轻信

教爸妈 "三不"：
不输密码、不转账、不轻信

教孩子 "4 个原则"：
先问爸妈、不轻信、不依赖、不沉迷

电信诈骗暗号示例：
"今天的天气真好" = 真我
不说 = 骗子

5 分钟动手实验

任务：做一次"全家 AI 安全升级"。

步骤：

1. 你自己：

   • 打开常用 AI，关闭"对话用于训练"
   • 删除有"敏感信息"的对话
   • 检查"自动保存"是否开了

2. 教爸妈：

   • 在他们 AI 上贴"三不"贴纸
   • 全家约定一个"防诈骗暗号"
   • 演示一次"我是你儿子，急用钱"——让他们演练应对

3. 教孩子：

   • 一起读"4 个原则"
   • 设置"未成年模式"
   • 约定"使用时间"

4. 填一份家庭 AI 安全清单：

[ ] 我的 AI 账号关闭了"用于训练"
[ ] 我每月清理一次敏感对话
[ ] 全家有"防骗暗号"
[ ] 爸妈知道"三不"
[ ] 孩子知道"4 个原则"
[ ] 全家不轻信"AI 视频/语音"
[ ] 公司用 AI 我已遵守规范

每个 ✅，离"AI 时代的安全公民"就近一步。

下章预告

下一章 第十六章 普通人如何在 AI 时代立足：

• 哪些工作"会被 AI 替代"，哪些"不会"
• 普通人的"AI 时代护城河"是什么
• 怎么把"会被替代"的人变成"AI 的指挥官"
• 不同年龄段的"AI 时代生存策略"