MacroAlpha.ioLaunch App启动应用啟動應用

LLMwiki知识库 Wiki知識庫 Wiki · ENTITY

Andrej Karpathy(安德烈·卡帕西)

源稿中的 AI 研究者与工程实践者;以 Software 1.0/2.0/3.0、Animals vs Ghosts、MenuGen 和“不能外包理解”串起软件范式与人的责任。

免费开放 · 更新于

17

Andrej Karpathy(安德烈·卡帕西)Andrej Karpathy(安德烈·卡帕西)Andrej Karpathy(安德烈·卡帕西)

0%0% · 计算阅读时间中…
询问 AI(a)回到聊天 APP(d)

TL;DR源稿中的 AI 研究者与工程实践者;以 Software 1.0/2.0/3.0、Animals vs Ghosts、MenuGen 和“不能外包理解”串起软件范式与人的责任。

**Andrej Karpathy(安德烈·卡帕西)**在本期源稿中被介绍为 OpenAI 创始成员,并曾在特斯拉负责自动驾驶。人物页关注的不是完整履历,而是他用亲手做过又亲手否定的 MenuGen,把 Software 3.0参差智能与“理解不能外包”连成一套工程判断。[^1]1

四个相互咬合的案例

案例或命题 源稿中的作用 MenuGen 一套完整 App 可能被“图片 + 一句话 → 目标图片”直接折叠 Software 1.0/2.0/3.0 把编程材料从规则、数据推进到自然语言上下文 Animals vs Ghosts AI 不是沿动物进化路径长出的均匀心智,而是训练出的异质能力电路 microGPT 与 LLM Wiki 简洁、品味与人的理解仍是当前瓶颈,但未必是永久护城河
案例或命题 源稿中的作用
MenuGen 一套完整 App 可能被“图片 + 一句话 → 目标图片”直接折叠
Software 1.0/2.0/3.0 把编程材料从规则、数据推进到自然语言上下文
Animals vs Ghosts AI 不是沿动物进化路径长出的均匀心智,而是训练出的异质能力电路
microGPT 与 LLM Wiki 简洁、品味与人的理解仍是当前瓶颈,但未必是永久护城河
flowchart TD
    A[MenuGen 被一句话折叠] --> B[Software 3.0]
    B --> C[生成能力迅速扩张]
    C --> D[参差智能与系统 bug]
    D --> E[人保留规格、计划、品味、判断]
    E --> F[理解不能外包]
    F -.训练边界可能继续移动.-> C

从 MenuGen 得到的不是“不要写 App”

源稿描述,Karpathy 曾花数日用 AI 辅助搭建 MenuGen:拍摄菜单后识别菜名、生成菜品图片,并配有前后端、账号、支付和部署。后来,他在访谈中展示大模型可把菜单照片直接重绘为带菜品图的版本,于是判断这个具体应用的几千行中介代码可能已无必要。[^1]1

这一自我否定更像一种产品纪律:不要因为旧范式能够造出完整系统,就默认系统本身是用户要购买的单位。先识别最终任务,再判断中间层是否仍有独立价值。它补充了应用的消解从“非程序员按需造工具”得到的观察。

“幽灵”与能力深谷

源稿转述 Karpathy 的 Animals vs Ghosts 隐喻:动物智能经历漫长进化,带有动机、身体与生存驱动;AI 则由互联网文本预训练和定向强化学习塑形,因而不像一个均匀长成的动物,更像被召唤出的“幽灵”。[^1]1

这个隐喻不是说 AI 具有灵魂,而是提醒读者不要把语言流畅误判为完整人类常识。代码、安全等可验证领域可能形成能力高峰,日常情境却仍可能留下深谷;具体机制见参差智能

人是建筑师,AI 是施工队

源稿中的 MenuGen 支付 bug 展示了当前分工:AI 用邮箱把 Google 登录与 Stripe 付款关联,遗漏了两边可能使用不同邮箱,正确系统应依赖统一用户 ID。这个错误不在“会不会写代码”,而在是否理解跨系统身份合同。[^1]1

Karpathy 因而把人的保留项放在规格、计划、品味与判断上,把 AI 放在快速实现的位置。可他同时警告,这些能力之所以仍像护城河,也可能只是尚未被构造成可训练的奖励环境。人的答案不能是宣布某种永恒不可替代性,而是持续加深对问题、用户与后果的理解,并让这种理解进入意图工程和验收合同。

边界

  • 本页的人物事实、项目经历和访谈观点均按频道源稿整理,没有替代完整传记、项目仓库或访谈原文核验。
  • “AI 是幽灵”是能力来源与不均匀性的比喻,不是意识、本体或灵魂存在的论证。
  • “不能外包理解”是当前人机协作原则,不证明理解、品味和判断永远无法被模型训练。
  • 人承担架构责任不等于人工判断天然正确;人的规格同样需要测试、反证、复盘与问责。

关联

[^1]: Karpathy说你写的App根本不该存在。.md

注释

  1. Karpathy说你写的App根本不该存在。

CONVERSATION DIGEST · 对话摘要

分享这段讨论

摘要可以编辑;公开后会以你的名义显示,并链接到完整对话。

Andrej Karpathy(安德烈·卡帕西) · 关系图
100%