问题描述
近日，一对来自四川雅安的年轻情侣前往康定市甲根坝镇旅游，由于平日里刷到各类采菌短视频，便想亲身体验捡菌乐趣。二人清晨跟随当地老乡上山，老乡因需赶工提前离开，剩下两人很快便收获了两袋满满当当的野生菌，总重达十多斤。为了安全起见，男友还特意掏出手机，用 AI 软件（豆包）逐一识别，将 AI 判定有毒的菌子剔除后准备下山找餐馆加工。
没想到在下山途中，他们偶遇了一位背着小竹篓的本地「小孩哥」。小朋友主动上前询问，看到两人的「战利品」后，将袋子里的菌子一把把往外扔，直言这些基本都是有毒的。
其中一朵被AI鉴定为「可食用红菇」的蘑菇，也被小孩哥「潇洒」扔掉。面对两人的疑惑，小朋友更是调侃道：「这个能吃啊，吃了晚上就上西天。」
经过小孩哥的「毒舌」筛选，情侣俩十多斤的菌子最后只剩下约两斤。
来源：潇湘晨报
在 AI 时代，「如何使用 AI」应该和「语数英」并列作为主科。
14 亿人中的每一个都有必要知道AI到底是怎么工作的，以及它的边界在哪。
以这个提问来说，这两个情侣的逻辑很简单：既然豆包啥都懂，那就问问它能不能吃。
结果俩人差点被毒死。
这对情侣但凡受过一丁点关于「AI 边界」的教育，就不会傻到把生死大事交到一个连气味都闻不到的算法手里。
回到提问：豆包为什么输给小孩哥？
豆包的训练数据从哪来？互联网。
网上有什么样的菌子照片？被人摘下来，摆好，打光，找个干净背景，拍完发朋友圈的那种。或者科普文章里的标本图，菌盖菌褶菌柄工工整整，旁边标注「牛肝菌 Boletus edulis」。
这两种照片，豆包的训练集里前者占了绝大部分。
它从来没见过真实世界里的菌子。它只知道人类替它选好的、摆好的、修过图的菌子。
豆包训练需要海量数据，每张图片必须有对应的标签。标注有成本，所以标签只能极度简化：一张图 + 「红菇」 + 「可食用」，完毕。
小孩哥脑子里的标签是什么？「7 月下完雨第三天，冷杉林底下苔藓旁边冒出来的。看起来是什么样的，这里应该是什么形状，颜色特点是什么，菌盖有点黏手，掰开不变色。炒的时候多放蒜，蒜不黑就能吃。」
所以问题出在哪？
首先，也许豆包的广度足够，但深度不足。这是商业成本有限导致的。
豆包看似上知天文下知地理，能认出几百种蘑菇的学名和图片。它的知识来自对互联网文本和图片的粗暴压缩，能告诉你「红菇属可食」，却不知道你手里蘑菇的具体细节，以及该如何判断。
要教会一台机器识别云南深山里那些长相接近但毒性天差地别的菌子，可能需要采集几十万张在不同光线、不同泥土、不同成熟度下的实地照片，并请大量本地采菌人逐一标注。这种数据采集和标注的成本极高，足以让任何一家大厂直接放弃。
而小孩哥知识的成本是祖祖辈辈用命试出来的，在这个细分领域上的深度要远远超过豆包。
其次，豆包的多模态远远达不到人的水准。
现在的豆包能识别图片，似乎已经是个多模态模型，但和真人还差得远。
豆包闻不到气味，摸不到黏滑的菌盖，看不见菌褶在折断后是否变色，更不知道今天的温度湿度，以及菌子旁边的共生树种。而这些才是野生菌鉴定的关键。
最关键的是，豆包总是不懂装懂。
这是最要命的一点。你问豆包：「这蘑菇有毒吗？」它可能会给出一段语气平静、结构完整的回答，让你产生一种「它很靠谱」的错觉。
小孩哥刚好相反。他看到拿不准的菌，会直接扔进「毒菌堆」，嘴里嘟囔一句：「这个我也认不得，吃了搞不好躺板板。」
豆包缺少这种「知道自己不知道」的机制，它被训练成讨好型人格，幻觉一大堆，问什么都要给出答案。
总而言之，豆包不笨，甚至可以说聪明得吓人。它能在几秒内从浩如烟海的互联网数据里检索出几百种菌子的学名、科属、特征、毒性成分，甚至能给你背出一段《中国毒蘑菇名录》里的拉丁文学名。这种广度，小孩哥一辈子都追不上。
但「聪明」和「能保命」之间，隔着一条巨大的鸿沟。
问题不是豆包不够聪明，而是聪明用错了地方。它被当成一把万能钥匙，用户却不知道这把钥匙的锁芯原理——它只能打开那些已经被充分数字化、结构化、标签化的大门。而在云南深山的菌子地里，那个世界的门，是用泥土、雨水和祖辈的命铸成的，豆包手里根本没有对应的钥匙齿。
说白了，豆包不是神，它是一个在特定领域极其强大，但在其它领域极其无能的工具。
认清 AI 的边界，是 AI 使用者的义务。否则，下一次可能就不是扔掉八斤菌子那么简单了。
所以我说，「如何使用 AI」必须成为这个时代的基础学科，其优先级不亚于认字和算数。
但这个学科，学校不教。
好在 Thoughts Memo 教。关注 Thoughts Memo，下次我们再聊 AI 和教育问题。
author: cantcatchme@thoughtsmemo