昨天读了《金钱心理学》，今天换到 AI 方向，读一本不吹牛的书：《AI 3.0》（Artificial Intelligence: A Guide for Thinking Humans），梅拉妮·米歇尔。
它是 AI 科普里少见的一类：作者既是一线研究者（圣塔菲研究所教授，师从《集异璧》作者侯世达），又对炒作保持冷静。全书 400 页，核心命题只有一句：
AI 强在"做"，弱在"懂"。
一、意义障碍：会"做"，不会"懂"
米歇尔举过一个经典例子：一台 AI 学会了玩雅达利游戏「打砖块」，比人玩得还好；但有人把挡板往上挪了几个像素，它就完全不会玩了。它从没"理解"挡板是什么，只是记住了"这个特定画面下，这个动作得分最高"。
一个系统可以在完全不知道自己正在做什么的情况下，完成复杂的任务。
她把这条推到底，就成了全书的题眼：
「意义障碍」这个词，精准概括了贯穿全书的判断——人类在某种深刻而本质的层面上，理解自己所处的处境；而至今没有任何一个 AI 系统拥有这种理解。……意义障碍，至今仍然矗立在 AI 与人类水平智能之间。（第 14 章，大意）
二、莫拉维克悖论：难者不会，会者不难
机器人学家莫拉维克发现了一条反直觉的规律：人类觉得难的，机器觉得简单；人类觉得简单的，机器觉得极难。
下围棋对人类是顶尖智力竞技，对机器却"可计算"；而"走过一条繁忙的街道"对我们毫不费力，对机器人却是噩梦。
像下围棋这种事，对人类难到极点，却可以被计算；而走过一条繁忙的街道，对我们毫不费力，对机器人却是噩梦。
推论的杀伤力在于：我们总习惯用自己的难度直觉去判断 AI 的进度，而这条直觉恰恰是反的。
三、「愿望式命名」与「手提箱词」
米歇尔提醒我们警惕两个词。
一个是「愿望式命名」（wishful mnemonics）：把一个函数叫做「理解」或「学习」，会让研究者自己也误以为机器真的在做这些事——名字会骗人。
另一个是明斯基的「手提箱词」（suitcase words）：「智能」「学习」「理解」这些词像手提箱，塞满了一堆完全不同的含义。我们在评价机器时，会不小心把整箱东西一次性全抖出来。
把一个函数命名为"理解"或"学习"，会骗过研究者，也骗过公众，让大家相信机器真的在做这些人类才会做的事。
四、长尾：机器的愚蠢是一种尾部风险
深度学习在训练数据覆盖的范围内"插值"得很漂亮，一旦超出分布，就会以人类绝不会犯的方式崩溃。而真实世界，几乎完全由训练数据里没出现过的长尾事件构成。
机器的愚蠢是一种尾部风险——它能做出一大堆正确的判断，然后在一次尾部事件上彻底翻车。而真实世界几乎完全由训练数据里没出现过的长尾事件构成。
五、春天与冬天：AI 的历史是循环的高估
从 1956 年达特茅斯会议、感知机，到专家系统，AI 的历史就是一轮又一轮的"过度承诺 → 媒体炒作 → 泡沫破裂"。每一波都以为通用智能近在眼前，最后都因一个老问题——不能泛化——而进入冬天。
我们总是高估自己离人类水平 AI 有多近，因为我们总是低估人类智能本身的复杂度。
六、猴子爬树，登不上月球
米歇尔把一种常见幻觉叫做"连续体谬误"：把窄 AI 的进步，当成通往通用 AI 的阶梯。
认为狭义 AI 的进步会通往通用 AI，就像说"第一只爬上树的猴子，是在朝登陆月球前进"。
七、2026 年的答案：大模型也没翻过这堵墙
这本书出版在 GPT-2 时代，没来得及写 ChatGPT。但米歇尔后来的判断，延续的是同一条逻辑线：2025 年她在《科学》杂志发了一篇《为什么 AI 聊天机器人会对我们撒谎》，2026 年又在《耶鲁评论》发《锯齿智能：LLM 深处那些危险的未知》。结论始终没变：大模型在文字流利度上令人惊叹，但「意义障碍」依然成立——幻觉、无法自知、边界输入翻车，都是同一堵墙的不同表现。
这本"旧书"配"新现实"的对照，正是它 2026 年还值得读的原因。
对照：对一个在深圳做技术的年轻人
这本书最值钱的，不是知识，是一套"站得稳"的判断框架。三句话可以带走：
第一，别只做"会调 API 的人"。写代码这一层正在被 AI 平权，但"判断、抽象、常识、担责"这一层还没被取代——而且恰恰是最贵、最难被自动化的一层。把你的价值往这一层挪。
第二，面试里能讲清 AI 的边界，比能吹 AI 的能力更稀缺。尤其是在风控、反欺诈这种"错了就是真金白银"的场景里，一个能主动说"这个模型在什么边界条件下会失效"的人，比十个只会说"这个模型很强"的人值钱。
第三，别被两种极端叙事带走。一会儿"AI 要取代程序员"，一会儿"AI 岗位要凉"，这两种声音传播力最强，因为都听起来聪明。米歇尔给的立场是第三条：把具体的事情查清楚，对长期的方向保持冷静——能力边界、岗位真实内容、公司真在做什么，都去看一手信息，不看情绪帖。
今天可以做的一件事
做一张你自己的「AI 能力边界清单」：把你在项目里用过的 AI（风控模型、NLP、反欺诈、RAG 等）逐一写出"它在什么情况下会失效"。面试被问"AI 有什么局限"时，这是别人讲不出来的硬货。
明日：历史方向，约翰·戈登《伟大的博弈》——讲清一个国家的金融体系，是怎么在 350 年的崩溃与重建里长出来的。
老废物乐园 🗼