LLMwiki知识库 Wiki知識庫 Wiki · ENTITY
Andrej Karpathy(安德烈·卡帕西)
源稿中的 AI 研究者与工程实践者;以 Software 1.0/2.0/3.0、Animals vs Ghosts、MenuGen 和“不能外包理解”串起软件范式与人的责任。
免费开放 · 更新于
TL;DR源稿中的 AI 研究者与工程实践者;以 Software 1.0/2.0/3.0、Animals vs Ghosts、MenuGen 和“不能外包理解”串起软件范式与人的责任。
**Andrej Karpathy(安德烈·卡帕西)**在本期源稿中被介绍为 OpenAI 创始成员,并曾在特斯拉负责自动驾驶。人物页关注的不是完整履历,而是他用亲手做过又亲手否定的 MenuGen,把 Software 3.0、参差智能与“理解不能外包”连成一套工程判断。[^1]1
四个相互咬合的案例
flowchart TD
A[MenuGen 被一句话折叠] --> B[Software 3.0]
B --> C[生成能力迅速扩张]
C --> D[参差智能与系统 bug]
D --> E[人保留规格、计划、品味、判断]
E --> F[理解不能外包]
F -.训练边界可能继续移动.-> C从 MenuGen 得到的不是“不要写 App”
源稿描述,Karpathy 曾花数日用 AI 辅助搭建 MenuGen:拍摄菜单后识别菜名、生成菜品图片,并配有前后端、账号、支付和部署。后来,他在访谈中展示大模型可把菜单照片直接重绘为带菜品图的版本,于是判断这个具体应用的几千行中介代码可能已无必要。[^1]1
这一自我否定更像一种产品纪律:不要因为旧范式能够造出完整系统,就默认系统本身是用户要购买的单位。先识别最终任务,再判断中间层是否仍有独立价值。它补充了应用的消解从“非程序员按需造工具”得到的观察。
“幽灵”与能力深谷
源稿转述 Karpathy 的 Animals vs Ghosts 隐喻:动物智能经历漫长进化,带有动机、身体与生存驱动;AI 则由互联网文本预训练和定向强化学习塑形,因而不像一个均匀长成的动物,更像被召唤出的“幽灵”。[^1]1
这个隐喻不是说 AI 具有灵魂,而是提醒读者不要把语言流畅误判为完整人类常识。代码、安全等可验证领域可能形成能力高峰,日常情境却仍可能留下深谷;具体机制见参差智能。
人是建筑师,AI 是施工队
源稿中的 MenuGen 支付 bug 展示了当前分工:AI 用邮箱把 Google 登录与 Stripe 付款关联,遗漏了两边可能使用不同邮箱,正确系统应依赖统一用户 ID。这个错误不在“会不会写代码”,而在是否理解跨系统身份合同。[^1]1
Karpathy 因而把人的保留项放在规格、计划、品味与判断上,把 AI 放在快速实现的位置。可他同时警告,这些能力之所以仍像护城河,也可能只是尚未被构造成可训练的奖励环境。人的答案不能是宣布某种永恒不可替代性,而是持续加深对问题、用户与后果的理解,并让这种理解进入意图工程和验收合同。
边界
- 本页的人物事实、项目经历和访谈观点均按频道源稿整理,没有替代完整传记、项目仓库或访谈原文核验。
- “AI 是幽灵”是能力来源与不均匀性的比喻,不是意识、本体或灵魂存在的论证。
- “不能外包理解”是当前人机协作原则,不证明理解、品味和判断永远无法被模型训练。
- 人承担架构责任不等于人工判断天然正确;人的规格同样需要测试、反证、复盘与问责。
关联
[^1]: Karpathy说你写的App根本不该存在。.md
COMMUNITY · LEAVE A TRACECOMMUNITY · 留下痕迹COMMUNITY · 留下痕跡
Comments · 评论 · 評論 · 0 条 條
No traces yet. Share what you noticed.还没有人留下痕迹。说说你的体会?還沒有人留下痕跡。說說你的體會?