第十五章 避坑、安全与隐私

15.1 别神化 AI：5 个真相先记住

记住这 5 条，你跟 AI 的关系会更健康——它是工具，不是神，也不是朋友。

15.2 坑一：AI 幻觉

什么叫"AI 幻觉"

幻觉（Hallucination）：AI 输出"看起来非常合理、但其实是错的"内容。

几种典型幻觉

类型 1：编造事实

用户：李白哪一年写的《静夜思》？ AI：李白写《静夜思》是在公元 726 年，他当时在扬州寓居⋯⋯

——具体年份其实是编的，史学界并无定论。

类型 2：编造引用

用户：能引用一下《人类简史》中关于"AI 替代人"的原话吗？ AI："正如尤瓦尔·赫拉利所说：'真正威胁人类的不是 AI 取代人，而是人停止思考'⋯⋯"

——这句话尤瓦尔·赫拉利从来没说过，是 AI 编的。

类型 3：编造文献

用户：写一篇关于"5G 对零售业影响"的论文，要带参考文献。 AI：参考文献：[1] 张三. 5G 与新零售[J]. 清华大学学报, 2021, 28(3): 45-60.

——这篇论文不存在，是 AI 按"论文格式"编的。

类型 4：编造数据

用户：2025 年中国新能源车销量多少？ AI："2025 年中国新能源车销量约 1280 万辆，市场渗透率达 47%。"

——具体数字可能是编的，AI 只是"按统计规律"猜了一个合理值。

为什么会有幻觉？

AI 的本质是 "基于概率猜下一个词" ——它不知道"对不对"，只知道"像不像"。

当它对答案没把握时，就编一个"看起来像答案"的回应——比承认"我不知道"更顺。

普通用户怎么"防幻觉"

防御 1：开"联网搜索"

涉及"事实/数据/新闻/法规"时，永远开"联网搜索"——它会引用真实信源（公众号/视频号/新闻），而不是凭记忆瞎猜。

防御 2：要求"不知道就说不知道"

提示词加上：

重要：如果你不确定，必须直接说"我不知道"或"我不确定"，
不要为了"显得专业"而编造内容。

防御 3：要求"标注来源"

请在每个具体数据/案例/引用后面，标注【来源】，
比如【来源：百度百科】【来源：未联网，可能不准】。

防御 4：用"两个 AI 互相验证"

把元宝的答案，复制到豆包/Kimi 让它"验证":

[粘贴元宝的答案]

请帮我核查这段回答里的事实/数据/引用是否准确。
逐条标注：✅ 正确 / ❌ 错误 / ⚠️ 不确定。

防御 5：高风险领域必须"人工复核"

涉及以下领域，永远不要直接信 AI：

• 医疗诊断 / 用药
• 法律建议
• 投资决策
• 工程数据
• 学术论文
• 历史事实

AI 可以"提供思路"，但"最终判断"必须人来做。

一个典型场景：写论文

❌ 错误用法：让 AI"直接写一篇论文"，然后提交

✅ 正确用法：

• 让 AI 列论文大纲
• 你自己查文献、写正文
• 让 AI 帮你润色文字、检查逻辑
• 引用部分100% 自己核对

15.3 坑二：隐私边界

AI 公司会怎么用你的数据？

按主流 AI 公司（包括腾讯）的隐私政策，大致情况：

普通用户必须知道的 5 条隐私底线

底线 1：不要发"身份证号 / 银行卡号 / 密码 / 手机号"

哪怕你只是"让 AI 帮你审一份合同里的身份证号"——自己先打码再发。

底线 2：不要发"完整的医疗诊断书"

把"姓名 / 病历号"打码，只发"症状描述 + 检查结果"部分。

底线 3：不要发"公司机密文件"

特别是：

• 财务数据
• 客户名单
• 未公开战略
• 内部代码

所有大模型公司都不能保证 100% 数据隔离——哪怕是"企业版"。

如果你必须用 AI 处理机密，先打码 / 脱敏：把人名换成 A/B/C，把数字按比例调整。

底线 4：不要发"别人的隐私"

你跟同事的私聊截图、家人的病历、朋友的合同⋯⋯先征得对方同意，否则你可能涉嫌"侵犯他人隐私"。

底线 5：关掉"用我的数据训练模型"

在元宝的设置里，找到"隐私 / 数据"相关选项，把"用于改善模型"的开关关掉——你的对话就不会被用于训练。

元宝的"数据安全"做得怎样

腾讯作为大公司，整体数据合规水平相对较高：

• ✅ 国内服务器、符合《数据安全法》《个人信息保护法》
• ✅ 文件上传后短期清理
• ✅ 敏感信息脱敏处理
• ✅ 提供"数据导出 / 删除"功能

但任何 AI 都不能保证 100% 数据安全——养成"敏感信息打码"的习惯，永远是对自己最好的保护。

给企业用户的"额外建议"

如果你在公司用 AI：

• 先看公司有没有"AI 使用规范"
• 不要发未公开的财务/客户/战略数据
• 代码可以发，但商业敏感的算法核心慎发
• 如有合规要求，建议用"私有化部署"或"专属企业版"

15.4 坑三：版权与商用

一个最常见的疑问

"AI 写的小红书 / 公众号 / 视频脚本，能不能直接发表？"

法律层面（中国）

目前的主流司法实践：

• AI 生成内容的"独创性"由"人的智力贡献"决定
• 你提供了详细提示词 + 选择了输出 + 进行了修改的内容，通常可以视为"你"的作品
• 完全无修改、纯 AI 生成的内容，版权归属仍有争议

参考案例：2023 年 11 月，北京互联网法院判决"使用 AI 生成图片"的原告享有著作权——前提是原告进行了"独创性的智力贡献"。

实操层面：5 条建议

建议 1：任何 AI 内容都"加点你的"

哪怕只是"改一段话、加一个例子、调一下语序"——让你的"智力贡献"看得见。

建议 2：写实的内容要"事实核查"

涉及具体人/事/数据，自己核对，否则可能涉嫌"造谣"。

建议 3：敏感主题要"标注 AI 辅助"

如果是学术论文、新闻稿、官方报告，主动标注"AI 辅助生成"，不要"装作完全是自己写的"。

建议 4：商业用途看"使用条款"

• 元宝免费版：用于商业用途通常允许（但具体看最新条款）
• 元宝付费版（如有）：商业用途规则可能更明确

重要变更前请去元宝官网查看最新的"用户协议"。

建议 5：AI 生成的"图/视频"商用要更谨慎

• 涉及"真人脸"的，避免商用
• 涉及"知名 IP / 品牌 logo"的，避免商用
• 完全 AI 生成的"风景 / 抽象图"，商用相对安全

学生 / 学者的"特别提醒"

学术场景禁用 / 限用 AI 的情况：

• 论文核心观点 ❌ 不能用
• 论文文字润色 ⚠️ 看学校规定
• 文献综述写作 ⚠️ 看学校规定
• 数据分析代码 ✅ 通常允许

如果学校禁用 AI，你强行用了被查到，可能涉嫌学术不端。

15.5 坑四：防 AI 诈骗（最该读的一节）

AI 时代的诈骗有多可怕

举几个真实案例（综合公开报道）：

案例 1：AI 换脸诈骗

2023 年某公司财务收到"老板"的视频会议邀请，视频里的"老板"长相、声音、口型完全一致——结果被骗 430 万元。

事后查明：诈骗分子用 AI 换脸 + 声音克隆技术。

案例 2：AI 仿声"绑架儿子"

老人接到"儿子"电话："妈，我被绑了！快打 30 万到这个账户！"

声音和儿子一模一样——其实是 AI 克隆的。

案例 3：AI 仿声"领导让转账"

某员工接到"老板"的微信语音条："这个账户帮我转 5 万。"

——其实是 AI 克隆老板声音的诈骗。

案例 4：AI 代写"骗局合同 / 文章"

诈骗分子让 AI 写"看起来非常专业的投资计划书 / 法律文书"，骗老人投资。

给爸妈的「防 AI 诈骗清单」（请转发到家庭群）

⚠️ 以下 10 条建议，写给所有爸妈、老人。

【1】凡是"声称是你的家人"的电话视频，先挂断 / 退出，回拨原号码。

——AI 能模仿任何人的声音和脸，但它进不了你家人的微信号 / 手机号。

【2】凡是"要求转账"的，坚持挂断后，回拨对方常用号码确认。

——你儿子真的被绑了，警察会用警察的电话联系你，不会让你"打钱"。

【3】凡是"视频里要求转账"的，约定"暗号"。

提前跟家人约好一个"暗号"，比如"老家狗叫什么名字"——AI 不知道你家狗叫什么。

【4】凡是"陌生号码 / 链接 / 二维码"的，一律不点 / 不回。

不管对方是"快递员""银行""社保""老板""孙子",先确认身份。

【5】凡是"声称中奖 / 退税 / 补贴 / 投资"的，100% 是诈骗。

天上不会掉馅饼。任何"主动找你的好事"都是骗局。

【6】凡是"说不能告诉家人 / 警察"的，一定告诉家人 / 警察。

骗子最怕你"信任的人介入"——他们最常说"不要告诉家人"。

【7】凡是"AI 换脸"的视频，让对方做几个"反常动作"。

要求对方:

• 摇头 / 闭眼 / 张嘴
• 用手挡住一半脸
• 大笑 / 做鬼脸

AI 换脸在这些"非常规动作"上会穿帮。

【8】凡是"陌生人"打电话过来"自称是孩子的老师 / 同学"的，先挂断，找学校官方电话核实。

【9】手机里安装"国家反诈中心 App"，遇到可疑电话会自动提醒。

【10】记住反诈热线：96110

接到 96110 来电，一定要接——这是国家反诈中心，说明你正在被骗。

帮爸妈把元宝变成"防骗助手"

让爸妈打开元宝，告诉他们：

"妈，以后接到任何'让你转账'的电话或视频，先挂断， 然后打开元宝，把对方说的话告诉它，问'这是诈骗吗'。 元宝会帮你识别。"

用法示范：

妈，刚才有个人打电话给我，说他是公安局的，
说我儿子涉嫌洗钱，要我把钱转到一个"安全账户"配合调查。
他说不能告诉任何人，否则就跑不掉了。

请告诉我：
1. 这是诈骗吗？
2. 我应该怎么做？
3. 接下来如果他再打电话，我应该怎么应对？

元宝会清晰地告诉爸妈：

"100% 是诈骗。请您：

1. 立刻挂断电话
2. 不要按对方任何要求操作
3. 立即拨打 110 报警
4. 告诉所有家人保持警惕 ⋯⋯"

让 AI 成为爸妈的"24 小时反诈助手"——这是元宝最有意义的用法之一。

15.6 元宝里的"内容风险"

元宝有哪些"内容禁区"

腾讯元宝（以及任何中国大陆 AI）都会拒绝以下内容：

• 政治敏感：违反政治法律的话题
• 色情低俗：色情、暴力、血腥
• 违法行为：教人犯罪、做违法事
• 歧视言论：种族 / 性别 / 地域歧视
• 造谣传谣：明显的谣言 / 虚假信息

如果你触发了，元宝会拒绝回答（一般会说"这个话题我不方便回答"）。

这是好事

虽然有时候"误伤"——你只是想问个"敏感但合法"的问题，被拒了——总体来说，这种安全机制保护的是大众。

不要试图去"绕过限制"——

• 法律层面：违规
• 道德层面：不可取
• 实操层面：被检测到会被封号

15.7 关于"AI 焦虑"

真实的"AI 焦虑"

很多人在用 AI 后出现：

• 被替代焦虑：怕自己失业
• 能力退化：怕自己变笨
• 依赖过度：什么事都问 AI
• 真假混乱：不知道什么信息是真

5 条建议

建议 1：用 AI 是"放大器"，不是"替代品"

AI 能放大你的能力，但前提是你有能力。

——永远保持"自己思考"的能力。

建议 2：别让 AI 替你做"重要决策"

工作、感情、健康、投资⋯⋯最终决策必须自己做。

AI 只能"提供建议"，承担后果的是你。

建议 3：留时间"不用 AI"

每天至少 2 小时完全不用 AI——读书 / 运动 / 散步 / 跟人聊。

——保持"人本身"的能力。

建议 4：警惕"AI 让你不再思考"

如果你发现自己任何问题都先问 AI——警惕了。

先自己想 30 秒，再问 AI。

建议 5：学会"反思 AI 的答案"

AI 给的不是"标准答案"，是"一个答案"。

养成"质疑 / 改进"的习惯——把 AI 的回答当成"草稿"，你才是"作者"。

15.8 几个特殊场景的"风险提示"

场景 1：心理咨询

⚠️ AI 可以"陪聊""倾听"，但不能替代专业心理咨询师。

如果你有严重的抑郁 / 焦虑 / 自伤倾向，一定要找真人医生。

国家 24 小时心理援助热线：400-161-9995

场景 2：医疗诊断

⚠️ AI 给的诊断只能参考，不能确诊。

任何身体不适，先去医院。

场景 3：法律纠纷

⚠️ AI 给的法律建议只是普法，不能替代律师。

涉及重大利益，找正规律师。

场景 4：投资决策

⚠️ AI 不能"预测股市 / 房价 / 加密货币"。

任何"AI 帮你赚钱"的承诺都是骗局。

场景 5：未成年人使用

⚠️ 如果家里有未成年人用 AI:

• 给孩子设置"使用时长"（每天 1 小时内）
• 跟孩子讲"AI 会胡说八道"
• 不要让 AI 替孩子"代写作业"
• 留意孩子是否对 AI 产生"过度依赖"

15.9 一个真实故事：诈骗 30 万的"AI 老板"

（以下故事综合多起公开报道，部分细节做了模糊处理）

某公司财务小李，在公司工作 5 年。

某天下午 3 点，她接到"老板"的视频通话。视频里的老板长相、表情、口型、声音完全一致，对她说：

"小李，这边在跟外地客户谈合作，对方要求 30 分钟内打 30 万订金到这个账户，否则订单就黄了。这事别告诉任何人，我现在不方便说话。打完跟我汇报。"

小李没多想，按"老板"给的账户转了 30 万。

10 分钟后，小李给老板发微信"已转",老板秒回："?? 什么 30 万 ??"

——视频里那个"老板"，是 AI 换脸 + 声音克隆做的。

后续：

• 钱追不回来了（已经被转去多个境外账户）
• 公司报警（诈骗罪立案）
• 小李没被开除（公司赔了一部分），但她自己赔了 15 万

这个故事的 3 条教训

1. 任何"要求转账"的视频通话，必须挂断后，回拨老板的常用电话确认
2. 任何"30 分钟内 / 否则就来不及了"的，100% 是骗局
3. 任何"别告诉任何人"的，100% 是骗局

15.10 本章一图回顾

                    「避坑、安全与隐私」
                            │
            ┌───────────────┼───────────────┐
            ▼               ▼               ▼
         4 个大坑        给爸妈的清单    特殊风险
         幻觉            10 条防骗      心理 / 医疗
         隐私            国家反诈 96110 法律 / 投资
         版权            未成年人提醒
         AI 诈骗
            │               │               │
            └───────┬───────┴───────┬───────┘
                    ▼               ▼
              5 个真相先记住    AI 焦虑的解药
              不是知识库       AI 是放大器
              会胡说          别替你决策
              没意识          留 2 小时不用
              没良知          警惕"不再思考"
              会被淘汰        反思 AI 答案
                            │
                            ▼
                  「用好 AI 的前提
                   是"防得住 AI"」

15.11 5 分钟动手实验

✅ 实验 1（1 分钟）：测一次幻觉

• 问元宝："请引用《活着》里余华的 3 句原话"
• 然后去百度搜原句核对——80% 概率会发现引用是错的

✅ 实验 2（1 分钟）：关掉数据训练

• 进入元宝设置 → 隐私 → 找"用于改善模型"开关 → 关闭

✅ 实验 3（1 分钟）：把"防 AI 诈骗清单"转发给爸妈

✅ 实验 4（1 分钟）：教爸妈一句话

• 教爸妈一句口诀："任何要钱的电话，先挂断，回拨原号码"

✅ 实验 5（1 分钟）：让元宝帮你判断"骗局"

• 用 15.5 节的提示词，让元宝"识别一段电话是不是诈骗"

15.12 读完这章你应该知道

• ✅ AI 不是知识库，是"概率预测器"——会胡说八道（幻觉）
• ✅ 5 个防幻觉技巧：开联网 / 要不知道就说 / 标来源 / 双 AI 验证 / 高风险人工复核
• ✅ 隐私 5 条底线：不发身份证 / 不发完整病历 / 不发公司机密 / 不发别人隐私 / 关数据训练
• ✅ AI 内容版权：你"加点东西"才算你的；商用 AI 图谨慎
• ✅ AI 诈骗时代来了：换脸 + 仿声 + 假合同——给爸妈讲清楚
• ✅ 10 条防 AI 诈骗清单 + 国家反诈热线 96110
• ✅ AI 焦虑的解药：每天留 2 小时"不用 AI"，保持"自己思考"
• ✅ 心理 / 医疗 / 法律 / 投资 4 个高风险领域：AI 只能参考

下一章：第十六章 把元宝融入日常——30 天养成计划 + 个人 AI 工作流 + 高手习惯。