Jeff Dean 创办 Discovery Loop：RSI 无限加速不可信
Jeff Dean 离开 Google 后创办 Discovery Loop，聚焦自动化 AI 科研；他与李飞飞对话厘清自我改进与递归自我改进，并指出受物理计算限制，RSI 不可能无限加速。
要点
- Jeff Dean 离开 Google 后创办 Discovery Loop，目标是让 AI 自动设计实验、验证结果并从历史研究学习。
- 公司已开发 Agent Harness，运行约 20 个自动化改进循环，目标让领域专家生产力提高 20 至 50 倍。
- 团队吸引 Gemini、DeepSeek、Kimi 等项目研究人员；成立前三周进行约 400 场面试。
- 李飞飞与 Jeff Dean 区分自我改进与 RSI：后者需让改进方法反过来改进提出改进方案的系统本身。
- Jeff Dean 认为无限加速不可信，因模型训练与实验涉及真实计算和数据保存分析等物理过程。
阅读原文这里是中文要点整理，数字与细节以原文为准。
评论
还没有评论，来写第一条。