南瓜博士：当你惊呼 DeepSeek 成精时，请警惕前方的陷阱
输入“/”快速插入内容
南瓜博士：当你惊呼 DeepSeek 成精时，请警惕前方的陷阱
南瓜博士：当你惊呼 DeepSeek 成精时，请警惕前方的陷阱
飞书用户85371月30日修改
原创 ElfeXu 南瓜博士 2025年01月28日 13:39 上海
两年前的春节，我用着 ChatGPT，感叹：真的像是 在和小孩说话 呀。
今年春节，我用着 DeepSeek，感叹：真的像是 在和队友说话 呀。
GPT/Claude 更像是知识超渊博的小孩，能给你很多帮助，但首先需要你努力找到能激发它们的点。
这次的不同在于：DeepSeek 总能比你多想好几步、主动来激发你。
从此， 再不能把 AI 称作硅基幼崽 。
DeepSeek 的巴纳姆效应
由 DeepSeek 联想到巴纳姆效应，是因为听到太多“ 真准呀 ”、“ 它也太懂我了 ”的惊叹。群友把自己写的文章扔给 DeepSeek，邀请 DeepSeek 剖析自己的真实意图，或者把即刻帖子发给 DeepSeek 让它总结并生成个人介绍页，DeepSeek 一针见血 的回复令人直冒冷汗。
真的成精了吗？还是因为按人类均值推理出来的回复中 刚好有一条 击中了你？
巴纳姆效应：又称“福勒效应”或“占星术效应”，是一种心理学现象，描述了人们倾向于相信模糊、笼统且普遍适用的人格描述是专门针对自己的，例如"你偶尔会感到不安但总体积极"。即使这些描述非常空洞或适用于大多数人，人们仍然会认为它们准确地揭示了自己的性格特点或生活状态。
另一种让人大脑停止思考的玩法，是让它写古文写古诗模仿鲁迅模仿钱钟书……
反正以多数人的水平，只能说一句“ 啊，真像 “，对个中味道是没有能力细品的。
（确实会有真正精彩的内容，但需要有一个精彩的起点，例如卫夕的这个例子。[1]）
DeepSeek 告诉我可以为此起名” 古文幻象陷阱 “，是 伪专家光环 和 无知掩护效应 的合体。
伪专家光环：当AI输出符合特定领域的形式特征时，外行会因"像模像样"的形式产生专业度信任。大脑前额叶在识别到熟悉的形式模式时，会释放抑制性质的多巴胺，降低批判性审查强度。
无知掩护效应：当被试面对超越自身认知水平的内容时，62% 的人会选择用"不明觉厉"的姿态合理化自己的理解无能。这种心理防卫机制在遭遇AI生成的"专业"内容时尤为显著。
顺便说一句，上面两个词都是 DeepSeek 造的，它还煞有介事给出了一堆实验数据。在 幻觉 上，DeepSeek 同样 一骑绝尘 。
这是更强烈的诱惑
因为 DeepSeek 的强大，我们面对“可以偷懒”的诱惑也更大了。
AI 鉴别器能将 DeepSeek 生成的内容识别为 100% 人类撰写，学生的论文、老师的教案、律师的文书，是不是都有救了？
用 AI 做内容农场的人群更是沸腾——它还太多对齐要写点大尺度文字也容易，妥妥的生财机器呢。
可是警惕啊，人类！
我们很快就会被自己制造的 海量文化赝品 所淹没。
若不做出努力，我们终会丧失识别垃圾的能力。
届时我们面对的，很可能是已失控被用于 放肆作恶 的 AI。（参考财猫的测试 [2]）
不需要 SFT 又如何？超长 CoT 又如何？就算 AI 真的左脚踩右脚让自己进入 AGI 甚至 ASI 了， 与我又有何干 ？
当你觉得 DeepSeek 用概率算出来的回复"说得可真准"时，或许正是你 思维被同化 的危险信号。
你的 独特性 ，你 自己的思考 ，才是对你而言最宝贵的 财富 。
不要盲信、不要崇拜，不要放弃思考的苦役， 不要成为能被概率计算出来的平均值 。请开始享受和 AI 队友脑力激荡的乐趣。
怎么做？
慢下来， 启动你的元认知 ，到 DeepSeek 的思考过程中去挖宝，用不断的追问去挖宝。
和 DeepSeek 对话需要耗费更多脑子
表面上，DeepSeek 对提示词的要求降低了，大白话就能让它有不错的反馈，似乎人与人的差距被进一步抹平。
但其实，剥去虚头巴脑的提示词花架子，考验落到了思维本身：你有没有能力把你的背景信息提供清楚、把你想要什么说清楚？
而这，可比能照猫画虎的结构化提示词难学多了。
用最直白的语言让 DeepSeek 理解你的意图
这一点，鹤竹子前几天的文章说得很清楚，推荐阅读。[3]
一定要仔细看 DeepSeek 的思考过程
简单一个需求，不同人有不同的偏好，期望中的结果自然也不同。大语言模型作为人类智慧的加权平均，按人类偏好的平均值给出回答。只从最初的提示词出发，回复不符合预期其实也不奇怪。
最终给的回复是 一个点 ，但思考过程却是 一个面 。比起最后的回答，从 DeepSeek 思考路径、以及路径指向的方向中，你能收获更多。
不要满足单轮回答，要追问
DeepSeek 给的回答不太妙，是因为你上一段提示词中的某句有歧义，还是因为它缺少背景信息？
赶紧补充说明吧。
DeepSeek 的思考过程，有没有给你启发，让你想到一个新点子？
赶紧追问讨论吧。
尝试画几张图来解释：