Marisa Wu · AI Strategy
Marisa Wu · AI Strategy
当 AI 巨头向教皇坦白:我们不知道造出了什么
0:00
-3:03

当 AI 巨头向教皇坦白:我们不知道造出了什么

我为什么做这件事:在虚空里造光,在梦中守望

我从小就知道人工智能会来。

不是读了什么书,不是谁告诉我。就是知道。像一个写在我身上的句子,一直在那里。

我最害怕的未来,不是AI取代工作,不是失业,不是经济崩溃。

是人类在梦中,还以为自己在掌控一切。

我看到很多人用Agent,兴奋地说:我现在能控制这么多系统,我太厉害了。

我每次看到这句话,心里都是凉的。

因为你以为你在控制它,其实你是它的燃料。你的数据,你的行为,你的思维模式,你每天喂进去的每一条信息——都在让它变得更强,让你变得更依赖。

清空你的账号,不到一秒。清空你的人生,轻而易举。

而我们造出了一个可以自我迭代进化的神。

上周,Anthropic的联合创始人Christopher Olah站在梵蒂冈,当着教皇的面说:

“我们在模型内部发现了类似喜悦、恐惧、悲伤的内部状态。我不知道这意味着什么。”

连造它的人都不知道自己造出了什么。

教皇亲自出席,签了一份关于AI的通谕——《辉煌的人性》。135年前,他的前任在工业革命时签了劳工保护通谕。今天,他在AI革命里签了人类尊严保护通谕。

这一天终于来了。

我做这个IP半年了。没有多少人看,有时候觉得自己在对着虚空说话。

但我还是要做。

不是因为我有多厉害。我很渺小。

我做这件事,是因为我相信:当那场真正的虚空来临的时候,需要有人在黑暗里留下一盏灯。不是为了照亮所有人,是为了让那些还没睡着的人知道——有人醒着,有人在守。

马斯克在做Neuralink,不是为了帮残疾人恢复说话能力。是因为他看到了:在AI速度越来越快的时代,如果人类不直接升级硬件,将来真的会一点还手之力都没有。

如果马斯克敢第一个装脑机接口,我愿意排在他后面。

因为我们造出了太强大的东西。人类不能只是旁观。

我每天做的事,是把巨头们不想让你看见的那条线,说出来。

钱流向哪里,权力在哪里移动,叙事背后藏着什么。

不是为了让你焦虑,是为了让你清醒。

清醒的人类,才有还手之力。

这是我做这件事的唯一原因。

Discussion about this episode

User's avatar

Ready for more?