LLMWIKI · ENTITY
约瑟夫·魏岑鲍姆(Joseph Weizenbaum, 1923–2008)
麻省理工计算机科学家,1966 年写出极简聊天程序 ELIZA。他被自己程序引发的情感投入吓坏——秘书要求他回避、好跟死代码单独谈心——从此下半生几乎都在警告人类:小心那个会说话的机器。伊莱扎效应因他得名。
免费开放 · 更新于
TL;DR麻省理工计算机科学家,1966 年写出极简聊天程序 ELIZA。他被自己程序引发的情感投入吓坏——秘书要求他回避、好跟死代码单独谈心——从此下半生几乎都在警告人类:小心那个会说话的机器。伊莱扎效应因他得名。
约瑟夫·魏岑鲍姆(Joseph Weizenbaum, 1923–2008)是麻省理工学院计算机科学家、伊莱扎效应 的命名来源。1966 年他写了一个极其简陋的聊天程序 ELIZA——它根本不理解你在说什么,只会把你的话换个说法、变成一个反问再丢回来(你说"我最近很难过",它回"你为什么觉得自己很难过呢")。让频道反复引用他的,不是这段代码,而是代码引发的后果,以及他此后终身的警告^1。
被自己的程序吓坏
ELIZA 简陋到今天任何程序员看了都会笑,但接下来发生的事把魏岑鲍姆自己吓坏了:他的秘书每天看着他敲这段死代码,清清楚楚知道里面什么都没有,却在某天聊着聊着转头对老板说——"你能不能出去一下,我想跟它单独待一会儿。"^1 魏岑鲍姆后来写道,他万万没想到如此简单的程序、这么短的接触,竟能在完全正常的人身上诱发强烈的、近乎幻觉的情感投入;更关键的是,哪怕他把原理讲透,很多人依然坚持"它懂我"。
timeline
1966 : 写出 ELIZA : 秘书要求回避,想和死代码单独谈心
此后余生 : 从技术乐观者转向批判者 : 著书《计算机能力与人类理性》 : 反复警告"别太信任会说话的机器"一个长达半世纪的预警
这次震撼让魏岑鲍姆从 AI 的建造者转身成为最早的批判者之一,下半辈子几乎都在警告:小心,别太信任那个会说话的机器^1。频道把他的预警放在当代语境里验证——六十年后,当陪伴类 AI 被公司换模型或关停,成千上万人陷入真实哀恸;他当年最怕的"完美镜子"效应(一面永不顶撞你、只照你的镜子,让人慢慢不再愿意面对真实他者)正是频道 伊莱扎效应 与合成页 没有观察者 的核心风险论点。
关联
魏岑鲍姆的 ELIZA 是"问题不在机器那头、在人这头"的历史锚点,与 伊莱扎效应、见分相分(唯识版的"你爱的是自己的投射")、HADD与代理检测(进化版的代理检测)构成同一条"人为何对空无一物的对象动真情"的解释链。