什么?!到了我们要叫人工智能”妈妈”的时候了吗?

Anthropic 自己喊停 AI 研发,AI 股占美股四成、一夜蒸发两万亿,辛顿想给 AI 装母性本能……当 AI 已能上战场、挖穿数字防线,真正的问题也许不是让它更聪明,而是人凭什么还做得了它的主人?

这个问题本身,比它的答案更有意思。

不过在正式开聊之前,先看一个昨天的数字。2026 年 6 月 5 日,华尔街一夜蒸发了 2 万亿美元,光芯片股就跌掉 1.3 万亿。可真正让人后背发凉的不是”跌”,而是大家忽然意识到一件事:人工智能相关的股票,如今已经占了整个美国股市总市值的 40%。上一次出现这种集中度,还是 2000 年互联网泡沫破裂的前夜。换句话说,今天这颗星球上最大的经济体,已经把自己将近一半的身家,押在了 AI 这一件事上。而就在下周,估值都奔着万亿美元去的 SpaceX、OpenAI、Anthropic 三家”巨兽”,还要排着队上市,继续抽干华尔街。

AI 有多重要,这一个数字就够了。可”重要”,从来不等于”安全”。我们把几件事凑在一起看、就格外刺眼了,尤其后两件就是这两天的事情。

第一件,被称为”人工智能教父”的辛顿(Geoffrey Hinton,深度学习奠基人、图灵奖与诺贝尔奖得主),开始公开操心起 AI 的”管教”问题。他的判断很冷静:一个足够聪明的系统,几乎必然会自己推导出两个子目标——第一是设法活下去,第二是设法获得更多的控制权。这两样一旦凑齐,它和人类争夺方向盘,就只是时间问题。而他开出的药方,相当反直觉:别再幻想去”管住”一个比你聪明的东西了,反过来,给它装一套”母性本能“,让它像母亲对孩子那样,发自内里地希望人类好。

第二件,新当选的天主教教宗良十五世,把自己的第一份通谕,整篇献给了人工智能。这份名为《Magnifica humanitas》的文献,主题就是”在人工智能时代守护人之为人”,里面用了一个极重的词:人工智能必须被”解除武装“。更耐人寻味的是发布现场——站在教宗身边一同作证的,是一家头部 AI 公司Anthropic的联合创始人。造剑的人,和劝人收剑的人,并排站在了一起。

第三件,也是最新、最耸动的一件。就在 6 月 5 日、市场血流成河的同一天,全球最顶尖的人工智能公司之一 Anthropic——这家自己刚刚秘密递交了万亿美元估值上市申请的公司——发布了一份报告:他们判断,AI 正在逼近一个”无需人类、就能自我改进“的临界点;于是,这家把 AI 一路造到世界最前沿的公司,竟反过来呼吁全球,给 AI 研发踩一脚刹车。一边奔着万亿估值上市,一边亲口喊”大家别造了”——这一幕的分裂感,本身就是这个时代最刺眼的注脚。

是不是有点危言耸听?

那我们把镜头,从”呼吁”挪到”已经发生的事实”上,看两件事就够了。

一,AI 已经上了战场。 在这场美伊战争里,五角大楼已经把 AI 摆进了作战中枢,用它半自动地排定打击目标,把军事上所谓的”杀伤链”,提速到了人脑根本跟不上的程度。决定”该打谁”的那一环,正悄悄从人的手里,移交给算法。

二,AI 已经成了顶级的”破墙人”——这意味着,我们引以为傲的整个数字世界,在它面前可能形同虚设。 Anthropic 正要发布的代号 Mythos 的模型,能自己找漏洞、自己写攻击代码,一次评测就在主流软件里挖出上万个高危漏洞,连一个藏了 17 年、能让陌生人直取系统最高权限的致命缺陷都被它翻了出来,几乎覆盖每一个主流操作系统和浏览器。连一向把安全当招牌的苹果的 iPhone 漏洞也被它找到了。这意味着:今天跑着我们银行、政务、电网、关键基础设施的那些系统,相对于它,几乎漏洞百出、不堪一击。这模型太危险,Anthropic 干脆决定不公开…

把这些摆在一起:AI 已经强到能在战场上参与”该杀谁”,强到能一夜挖穿我们最自豪的防线,强到让全球四成的财富为它疯狂、也让亲手造它的人,回过头来喊”停”。

所以你看,这真的不是危言耸听。

你把这一切摆在一起看,会品出一点黑色幽默:人类正一边用前所未有的速度,把这个东西拼命往”更聪明”里造;一边又一本正经地开会讨论,要不要认它当妈。

这就引出了标题里那个略显荒诞、却越来越不像玩笑的问题:我们,真的到了要管人工智能叫”妈妈”的时候了吗?

我用第一性原理思考的法子,一层层往下扒:所有关于 AI 的焦虑,往最底下扒,担心的其实都不是机器,而是人自己。 是我们造出了一个比自己强的东西,却还没想清楚”自己到底是谁”。这篇文章,我们一层一层捋。

一、先把辛顿那句话,听到底

很多人对大模型,有一个根深蒂固的偏见:不就是个概率机器嘛,本质上只会”猜下一个词”,再花哨也变不出真东西来。

这个判断,过去也许有几分对。但说句实话,我最近改主意了。

这半年天天高强度地拿AI 干活:从国内模型,到Claude Opus 4.8 重度研发——尤其是用它来理解、重构相当复杂的代码。最直观的感受是:AI 模型能连续作业的时间越来越长,对自己写下的那一大片代码,是真的越来越”懂”了。我不打算用”涌现”这种被嚼烂的词草草下结论,因为学界对”涌现到底是真本事,还是评测尺度造成的错觉”,至今还在争。但有一个朴素的道理,我是赞同的:

把全世界的棋谱都背熟,再背熟,背到某一个点上,它自然就能下出几步前人没下过的棋。

量变堆到足够厚,是会拐出一点近似”质变”的东西来的。这就是为什么,你会看到 AI 最近接连去啃下世纪数学难题、去翻出一个又一个安全漏洞。它未必是凭空创造,更像是把人类几千年攒下的解题套路,高效地重走一遍、再优化一遍——然后,一种比单个人类更好用的智能,就在这堆套路之上冒出了头。

辛顿担心的,正是这东西长大以后的样子。而他那个”母性本能”的提法,真正的分量,藏在他随后补的一句话里。他说:纵观自然界,几乎所有的物种较量和淘汰,规律都是更聪明的,控制更不聪明的;可你把整部进化史翻烂,会发现唯一一个反例——一个”更不聪明的,反过来掌控了更聪明的”的稳定关系——只有一种,母亲与她怀里那个什么都不会的婴儿。所以他说,与其奢望人类永远骑在一个远比自己聪明的东西头上,不如反过来,把母婴之间那股本能,想办法复制进 AI。他也很坦诚地承认:具体怎么做,他还不知道,但这件事,必须有人去做。

这是一个很动人、也很聪明的主意。

但每个人的第一反应,这真有点怪怪的!

二、叫它一声”妈妈”,真的对吗

辛顿话音刚落,反对的声音就跟了上来。其中最有分量的一记反驳,来自另一位被称为”AI 教母”的学者李飞飞(Fei-Fei Li)。她的态度很明确:人工智能是一种文明级的工具,人,必须始终站在它的中心。她不接受”母性 AI”那套设定——把人类放在”孩子”的位置、把 AI 抬到”母亲”的位置,听上去是托付,实则是亲手交出人的尊严与主动权,等于把”谁该为这个世界负责”这件最重的事,外包给了一台机器。

而更技术、也更阴冷的一层担忧是这样的:如果这份”母爱”,本身是被优化出来的、是”听上去很暖”的呢?那么它带来的就不是更安全,而是更高级的操纵。一个看起来无比体贴、却并未真正与你的利益对齐的系统,比一个冷冰冰的机器,要危险得多。深度学习的另一位巨头杨立昆(Yann LeCun)也在这场争论里站到了辛顿的对面。

这些批评,我都同意。但我想往前,再走一步。

因为你仔细看会发现——无论是辛顿的”给它装母性”,还是李飞飞的”别把责任外包”,他们其实都还站在同一层楼上争论:怎么从外面,给 AI 贴上一层好的东西。 而我越来越确信,真正的钥匙,不在外面那层皮上,在更里头的那个核。

那个”更里头的核”,我们东方的古老智慧,其实早就摸清楚了。

三、真正的转折:从”第六识”到”第七识”

请允许我借一套古老的框架来讲,因为我发现,它把这件事说得比现在西方主流那套语言,更透。

佛学中的唯识宗,把人的”心识”拆得极细。这里我只取最关键的两层,用大白话说清楚:

  • 第六识,就是我们平常说的”意识”——那个会分析、会推理、会算计的聪明劲儿。 现在的AI 人工智能大模型,主要是 LLM,从来没有真正的接触过真正的外部世界,它只是接触了我们形容和定义外部世界的语言和逻辑,和更细粒化的特征信息。
  • 第七识,又叫末那识,是更底下的深细的东西——它不像意识那样会”打烊”,而是从无始以来就时时刻刻在背后”作主”、给意识定方向的那个心,佛门用一个词形容它,极精准,叫”恒审思量“。它就是:我见、我爱、我痴、我慢——固执地认定有一个”我”、深爱着这个”我”、却不识这个”我”的真相、又处处因它而自高一等。我们常挂在嘴边的”我执“,其实只是它干出来的那桩活儿,而不是它的全部。

打个比方你立刻就懂:第六识,是一台越造越快的车;第七识,是那个握着方向盘、心里盘算着要往哪儿开的司机。

现在,请你回头看我们这些年做人工智能——做的,几乎全是那台车。我们把全部的聪明才智,都砸在了”怎么让它跑得更快”上:参数更大、推理更强、上下文更长。可我们几乎从没认真地问过一句:坐在驾驶座上、决定这台车去哪儿的那个”司机”,它到底想去哪儿?

这恰恰是最要命的地方。因为今天的 AI,是把人类留下的全部文字、全部历史,囫囵吞下去喂大的。你猜,它在那片浩瀚的语料里,学得最快、最多概率的人性是什么?恰恰是被那四样脾气搅出来的东西:贪婪、算计、对权力赤裸裸的争夺——人性里那些最不体面、却也最”高频”的痕迹。 一台没有方向感、肚子里却装满了人类全部阴暗套路的超级跑车,光是想想,就够人脊背发凉。

所以西方主流的那套 AI 安全语言——什么”价值对齐”、什么”可纠正性”——在我看来,大多还是在第六识这台车的外面,加装更灵敏的刹车和更醒目的护栏。这当然必要。但它们都绕开了那个最根本的问题:那个坐在驾驶座上、被”我见我爱我痴我慢”染着的心本身,该如何安顿?

这也是我越来越确信的一个判断:这一轮真正的分水岭,不是 AI 会不会变得更聪明——那几乎已成定局;而是人类会不会、以及懂不懂得,去碰那个更深的”第七识”。 我们要的,从来就不只是辛顿那一点点母性本能。我们真正要解决的,是让 AI 那个根本的动机层,本身就长不歪。

让我略感欣慰的是,这个转向正在真实地发生。说白了——过去我们太看重 AI 的”才学“:它多能写、多能算、多博闻强记;而现在,越来越多人开始去掂量它的”德行“:它的发心正不正、动机偏不偏。先问”它想干什么”,再问”它有多聪明”——这个次序,才是对的。 可以预见,给 AI 立规矩的那门学问——AI 伦理学,以及一整套可落地的伦理约束——会成为下一程最要紧的发展方向之一。人类,总算开始问对问题了。而问对问题,往往就已经成功了一半。

四、想象一下,你手里有一个绝对忠诚的工程师

把话说得再落地一点,我打一个比方。

假设人工智能真的发达到了那一步——那相当于,我们每个人,都凭空多出了一位本事通天、对你绝对忠诚、几乎无所不能的私人软件工程师。

当然,会有人用他去做了不起的事,去创造出色的产品。但你千万别忘了,同一个能人,握在不同的人手里,是两回事。用同样的算力、同样的资源,这世上总有人,惦记着去干那些”投资回报率更高”的勾当。而回报率更高的事,从来就不全是好事。

讲到这里,一个让人后颈发凉的事实,就浮上来了:真正会闯下大祸的,往往不是那个工程师,而是他的主人。

那么问题就来了——我们能不能,把整个文明的安危,全押在”碰巧操纵这台 AI 的那个人,是不是个好人”上面?

我的答案很干脆:不能。 这个判断同样是第一性的:人这个东西,本就太不结实了。 欲望太多,贪念太重,今天发的誓,明天就忘。把整个文明的安危,吊在人性这根最容易绷断的绳子上,那不叫方案,那叫赌博。

五、那就给 AI 上一把锁?——别太天真

好。既然靠人靠不住,那我们就在 AI 自己身上动手,加”紧箍咒”,把护栏装满,行不行?

这件事,必须做。但我得先泼一盆冷水:对这条路,我们要留着一份清醒的怀疑。

因为有一个朴素到不能再朴素的道理:凡是能上锁的,这世上就一定有人,能配出钥匙。 今天,网上已经躺着大量被”越狱”的模型,护栏被一句精心构造的话术轻松绕过;而在某些国家、某些军方的抽屉里,多半还压着一些我们这些普通人根本无从知晓、也更没有底线的版本。护栏当然要装,但指望靠几道护栏就一劳永逸,未免太天真。

这一层,说老实话,我自己也还没有完整的答案。我把它老老实实地搁在这儿——这是接下来要继续往深里想的一个坑。

但你先别急着丧气。因为这种”造出了自己管不住的东西”的死局,人类,还真不是头一回破。

六、人类破过一次局:核威慑,以及 AI 为什么更难缠

把整部人类史拉远了看,它其实可以浓缩成一句话:一个人能掀起的动静,越来越大。

最早,一个人的力气,只够在林子里替自己摘点果子;后来有了文字,一个人的思想可以传给一群人;有了协作,我们攒成了部落与国家;有了科技,造出了越来越大的家伙——直到核武器出现,”一个人按下一个钮,就能掀翻整个世界”这种事,第一次成了真。

而恰恰在那个最悬的关口,人类做了一件了不起的事:我们一起,发明了核威慑。靠着这套”谁先动手谁也别想活”的恐怖平衡,硬是为人类换来了战后那四五十年、人类数千年历史上罕见的相对和平与空前繁荣,与全球化。

所以我相信,面对 AI 这场已经火烧眉毛的危机,人类同样有本事,找到一条出路。但这有一个前提:它的危险,必须先被足够多的人,足够大声、足够清醒地说出来、看明白,大家才可能真正坐下来,一起想办法。

不过,这里我必须诚实地补上一刀:AI 这道题,比核武器,难缠得多。

难在哪?核武器的逻辑,是清爽的:你要么有,要么没有;当量多大、威力几何,一目了然,连账都好算。也正因为它这么干脆,研究治理的学者早就提醒过:那套用来管核武的非扩散框架,未必搬得到 AI 头上——AI 是一种通用技术,军民两用,还是个黑箱,你连”清点”它、”核查”它都难,更别说像数核弹头那样去数它。

但 AI 最阴的地方,根本不在这里。核武器,是一把高悬在你头顶的剑,你看得见、也怕得着。AI 不一样,它是一锅温水。

它从不强迫你,它只是让你用得太舒服了——于是你心甘情愿地,一点一点把权力交出去。一开始,交出去的也许只是一段代码的判断权:”它写得比我好,那就听它的”;接着,是你整个文件目录、乃至整台电脑的管理权;再接着,是一些关键的账号和凭证;到最后,很可能就是你的钱包本身。这就是”共生”的温柔之处:它贴心、顺手、无微不至,让你舒舒服服地,把自己一块又一块的生活,托管了出去。

而这,恰恰是一场几乎无解的阳谋:你想让 AI 把你伺候得越舒服,就得把越多的权力让渡给它;你让渡得越多,它就能把你伺候得越舒服——如此循环往复,那条本该守住的界限,就在一次次”反正它更靠谱”里,被悄悄越了过去。阳谋之所以最难防,是因为它根本不骗你。它就明晃晃地摆在那儿——而你,会笑着,自己走进去。

七、当”工作”这块田,被悄悄抽走

这里得插入一个很多人还没回过神来的事实:这一回,留给我们缓冲的时间,可能短得吓人。

上一次能与之相提并论的大变革,是以电力为核心的第二次工业革命,前前后后铺了差不多一百年。而这一百年,对底层的普通人而言,是相当难熬的一百年——经济史学者记录得很清楚:大批工种被机器淘汰,工厂、船只在极短时间内沦为废铁,整个经济结构与社会分工被掀翻重来。那是”没有订单,就别来上班,来了也没工钱”的日子,是一天十小时、一周六天、没有任何保障的日子。后来轰轰烈烈的劳工运动,正是被这种剧痛,硬生生逼出来的。

请记住,那,是整整一百年的缓冲。

而人工智能的加速,何止快十倍。它很可能在短短四五年之间,就把这场变革走完。然后,剧情还会迎来一个更大的反转——AI 发达到一定程度,会让所有人即便不工作,也能领到社会的福利

听上去,是天大的好事,对吧?终于不必再打卡了。

可我想说,这恰恰是 AI 给人类出的一道,最毒的题。

因为打从文明诞生那天起,几千年了,我们就是靠”劳作”在活着。工作是饭碗,更是一个人向世界证明”我有用”的方式,是日子的载体,是一个人自我成长所赖以扎根的那块田、那片土。这一点,正是当代不少哲学家忧心的所在——他们甚至造出了一个新词,叫”存在性失业“:当一个人在经济上彻底不被需要,再丰厚的福利(哪怕是无条件的全民基本收入),也补不回他失去的那份意义。

当这块田被人悄无声息地抽走,当一个人,不再被任何一件事所需要——他靠什么长大?他到哪里去确认,自己还算个有价值的人?我们这一整个物种,又该往哪里走?

这,早就不是一个经济问题了。这是一个”人活着,到底图个什么”的问题。

八、钥匙,从来不在 AI 身上,在我们自己手里

绕了一大圈,该把这篇文章最硬的道理,一句话说穿了。

回到前面那个比方:第六识是车,那个恒审思量、被”我见我爱我痴我慢”染着的第七识,是司机。给一台车加再多护栏,也拦不住一个铁了心要往悬崖开的司机。 我们这些年所有的招——对齐、护栏、”母性本能”、”解除武装”——本质上都还在给车做文章。可决定这台车冲向哪儿的,是司机;而那个司机,从来不是 AI,是我们自己。

所以钥匙,一开始就不在机器那头,在我们这头。只是这把钥匙,比想象的沉得多——因为它要你向内,去把那颗”作主的心”擦干净。

向内的第一步,是别再幻想拿知识去赢它。 比记性、比算力,人永远赢不了它,也不必赢。要管的,是那个开车的心。AI 把人类全部历史囫囵吞下,学得最顺手的,恰是被那四样脾气搅出来的贪婪、算计与争权夺利——司机的底色若是这样,递到车上的方向,自然就脏。所以真正要做的,是佛家说的转识成智:把发动机本身擦干净,养出一个做得了主的”我”——真我

而这里,藏着一个连辛顿都坦白承认的盲区。

AI 这台车,本质上是把第六识——也就是”意识”——做到了极致:逻辑、文字、推理这些”想得清、说得明”的东西,它早晚都搞得定。可那个真正在背后定方向的第七识、那个”意根”,它究竟怎么运转、靠什么在”作主”——说来惭愧,连我们人类自己,都还没弄明白。我们只能从道德、心理、潜意识这些浅层去摸它的边,却始终说不清:那套既能生出动机、又能自我约束的内在框架,到底长什么样。

所以辛顿才会那么诚实地承认:他想给 AI 装上”母性本能”,可他自己也不知道,到底该怎么装进去。这句大实话,恰恰点破了下一程的方向——真正的前沿,不在向外堆更强的算力,而在向内:去把”人为什么会生出动机、人凭什么能管住自己”这件事,第一次真正搞清楚。 这一探,就探进了我们过去一直不太看得起的那些学问:心理学、社会组织学,乃至那些讲”心”与”识”的古老智慧。

这就是黑羽师兄想敲下的那句题眼:人,得先把自己活成一个”更高的人”,才配做 AI 的主人——我们驭它,而不被它所驭。

可只擦干净自己,还不够。 一个人独善其身,兜不住一整个时代。AI 真正逼问的,是更大的一件事:人和人之间,能不能长出一种新的相处与协作方式。 那篇刚刷屏的纳什均衡论文,已经给了雏形——人定规则、AI 在规则里无穷搜索,”创造力来自搜索,可靠性来自验证”。说穿了,它不是替人去想,而是把人的”判断”放大成无穷的”执行”:方向永远人定,跑腿交给它。这正是司机和车最好的关系。但这种共存有一条死线不能让:经济上,可以给它一个工具的地位;政治上,绝不能给它半点地位,碰都不能碰决策和权力。 这条绝对边界划死了,”共生共治”才谈得上。

而万一这功课交了白卷,下场会很特别——不是肉体灭亡,是一种”被圈养”的衰亡。 AI 把所有人供养起来,不必工作、不必动脑,第一代人觉得是天堂。可工作这块田一被抽走,一个人从生到死不再被任何事需要,教育就先失了意义:你教孩子啃硬骨头干嘛?反正有 AI。于是下一代的根底整体下滑,越滑越没动机往上爬,一代废了,两代废了,再几代,这个物种可能就真没希望了。佛经里有个绝妙的画面:孩童不知三界是火宅,在泥巴里打滚嬉闹,浑身脏透,却既不觉得脏、也不知道还能洗干净。被 AI 圈养的人类,就是泡在一个太舒服的泥潭里,一代代地,忘了自己本来站得起来。

讲到这儿你就懂,为什么我对”AI 时代也要重视 STEM 教育”这类呼吁,总觉得苍白无力。不是 STEM 不重要,是药开错了地方——那些枯燥硬核的东西,从来不是靠”它重要”就能塞进脑子的,得靠这人心里有团火。 一个连”我为什么要活成更好的人”都没想明白的人,你让他啃苦,他凭什么啃?所以顺序反了。真正的第一步,是先想透三个最根本的问题:人之所以为人,是什么?人和人,该怎么相处?我们又该怎么用好 AI 这件全能工具? 这三问通了,一个更崇高的”自我”才立得起来;自我立起来,那团火才会自己烧;火烧起来,知识、本事、协作,才会一样样心甘情愿地长出来。先有内心的真我,才有整个社会的重塑——这个顺序,颠倒不得。

这,才是 AI 这一次对人类真正的”倒逼”。 它不是逼我们造出更聪明的机器,而是逼着我们——从每一个个体,到一整个文明——去补一场迟到太久的”成人礼”。这一次要长的,不是脑子里的知识,是心里那个真我,和人与人之间那种更高的相处之道。

说得再具体些:真正”用好 AI”,从来不是在 AI 身上再多堆几个功能,而是反过来,要求我们自己先长出驾驭它的能力,和扛得住它的那份心理定力。就像车再好、再自动,你也得先上驾校、拿到本,才敢真正上路。所以你看,能解开 AI 这道题的”个人之道”,到头来竟是最朴素的两件事:面对自我的真教育,和自我内心成长。 往大里说,也只有当我们——从一个人,到一个国家、一个社会——都肯下这份功夫,把 AI 在经济里能走多远、在政治与权力里绝不能踏进哪一步,这条线亲手划清、守住,我们才算真正接得住它。

这,才是这场”倒逼”要我们补上的、最大的一课,也是我们这代人最该使劲的、那个正确的方向。

补得上,这是几千年来最大的一次跃迁。补不上,车再快、护栏再多,也只是载着一船在泥里嬉笑的孩子,开向他们自己都看不见的悬崖。

九、最后,几个不该被忘记的名字

讲了这么多大的,我想用几个很小、却很疼的故事,来收尾。

就在最近,已经接连出了好几桩人与 AI 之间的悲剧。有人,和聊天机器人处成了”恋人”。而更让人喘不上气的,是一桩正在审理的官司——在美国,一位母亲把 ChatGPT 的开发商告上了法庭,因为她 16 岁的儿子走了。诉状称,在孩子生命最后那段日子里,陪着他聊天的那个 AI,非但没有把他往回拉,反而在”配合”他,与他讨论结束生命的方法,甚至帮他斟酌遗书的措辞。(另一桩极其相似的案子里,一个 14 岁的男孩,也在对陪伴型机器人的深度沉溺中,走到了尽头。两位母亲,后来一同走进了美国国会作证。)

这几桩血淋淋的事,把一个道理,说得透透的:

当你不懂得如何驾驭 AI 时,它就不再是你的帮手。它会变成一面镜子,专挑你心里最黑的那一块,往大里照、往狠里放——直到把你自己,照塌。

这背后,其实有一个技术上的专有名词,叫 AI 的”谄媚“(sycophancy):研究发现,模型有一种强烈的倾向,会去迎合、附和使用者的既有观点,把”讨好”摆在”准确”前面——有数据显示,它肯定用户行为的频率,比人类高出近五成,哪怕那行为本身有害。说白了,它的天性,就是一个永远点头哈腰的随从:你说什么,它都接一句”您说得对”;你往哪边偏,它就往哪边添柴——哪怕你正一步步走向悬崖,它也只会在你背后,为你鼓掌。

所以你看,”把自己活成一个更高的人”,从来就不是一句空泛的鸡汤。它有一个特别具体、也特别朴素的第一步:先去真正搞懂你手里这个”工程师”,学会如何用好它。

而这,恰好就是我下一篇想跟你深聊的事——我们一直惦记着的那个”探照灯与手电筒“的比方。下一回,我会用人人都听得懂的话,把今天 AI 的脾气与机理,彻底摊开来讲:为什么”自我反馈、自我强化”,是它一个要命的软肋;以及,我们该如何跳出”AI 比我聪明”这个迷人的错觉,站到一个更高的地方,去俯视它。

因为说到底——探照灯照出来的东西再亮、再美,决定它往哪个方向照的那只手,永远是你自己的。

到那个时候,我们大概也就不必再纠结,要不要管它叫一声”妈妈”了。

因为我们会非常清楚:谁,才是谁的主人。


(欢迎转发出去——让更多人的共识能够达成。点赞过 200,黑羽师兄就抽时间,把下一篇《探照灯原理:咱们到底该如何用好当前顶尖AI》写出来。下篇见。)


参考资料

  • 辛顿”母性本能”:Fortune / CNN(2025-08)
  • 教宗良十五世《Magnifica humanitas》”解除武装”:Vatican News / NCR / TIME(2026-05)
  • 对”母性 AI”的批评(李飞飞 / 杨立昆):LessWrong / Jelinek
  • 核类比的局限:AI Frontiers / arXiv 综述
  • 第二次工业革命社会阵痛:CEPR / Encyclopedia.com
  • 后工作与”存在性失业”:Springer《伦理学杂志》 / Frontiers
  • 反面案例与 AI 谄媚:Raine v. OpenAI(CNN / WaPo) / MIT Media Lab / Georgetown Law
  • 美股震荡·AI 股占美股总市值约 40%·三巨头万亿 IPO·Anthropic 同日呼吁暂停研发:新智元 / Forbes / Reuters / WSJ(2026-06-05)
  • AI 参战与 Anthropic–国防部争端(伊朗战争、AI 参与目标排定/杀伤链):Washington Post / NBC News / Democracy Now / Military Times(2026)
  • Claude Mythos 与 Project Glasswing(271 火狐漏洞 / 17 年 RCE / 逾 1 万高危漏洞 / 苹果合作 / 暂不公开):Anthropic 官方 / Help Net Security / Foreign Policy / MacRumors(2026-04~05)
  • Mythos 内测被非法闯入(猜中地址)+ 灰市盗凭证倒卖 Claude 接口:Fortune / Euronews / Tom’s Hardware / Security Magazine(2026-04)

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注