三年内迎接AGI时代：OpenAI联合创始人John Schulman预测AI进化路线

刘绪刚

AI寒武纪



在最近的一次访谈中，博主Dwarkesh与OpenAI的联合创始人John Schulman进行了深入对话。John Schulman领导了ChatGPT的开发，目前负责后训练团队。在这次访谈中，John分享了他对通用人工智能（AGI）和超级人工智能ASI的时间线预测，以及OpenAI的未来计划。

AGI和ASI的时间线预测

John Schulman预计，AGI将在2027年实现，ASI将在2029年到来。这意味着在未来三到五年内，我们将看到人工智能在科学研究和其他复杂任务上的自主性飞跃。John强调，虽然这些时间线不是绝对的，但进行这样的讨论仍然非常重要。
John还提到，AGI和ASI在某些任务上的表现可能不需要达到超人级别的智能，这引发了对AI实际能力的讨论。
能力与产品路线
根据John的描述，OpenAI的产品路线图如下：
2025/2026年：AI将能够独立完成整个编程项目，而不仅仅是提供编写函数的建议。模型将能够根据高层次的指示自行编写代码、测试并迭代。这将包括处理错误和边缘情况的能力增强。
长时间复杂任务能力：AI在执行和管理复杂的长时间任务上的能力将显著提高，能够使用为人类设计的网站，并在电脑上实现类似Clippy的主动性功能。
数据使用观点
John认为关于数据不足的担忧被夸大了。他提到，即使在数据有限的情况下，通过少量示例也能显著改善AI的性能。
更大的模型在样本效率上更高，能够从少量数据中生成正确的功能。因此，识别所需的功能并收集相关数据比生成大量数据更为重要。
构建与蒸馏模型
John指出，从头开始构建AI系统是复杂的，只有少数组织能够完成。然而，蒸馏现有模型或克隆其他模型的输出相对容易，即便这可能违反服务条款。一些小型玩家已经在使用这种方法来赶上领先者。
注：蒸馏模型是指将一个复杂、通常是较大的“教师模型”（teacher model）的知识提取出来，并传递给一个较小、较简单的“学生模型”（student model）。这种方法的目的是在不显著降低模型性能的情况下，减少模型的复杂度，从而使模型更易于部署和运行。
个人观点
AGI的实现近在咫尺：在未来三年内实现能够计划和执行长期任务的智能体，并在五年内扩展到更长的时间跨度，这是AGI的定义。当前数据主要是单回合响应，存在许多尚未开发的潜力。
数据不足问题被夸大：少量样本就能显著改善行为，表明识别所需功能并收集相关数据比生成大量数据更为重要。仍有许多未被充分利用的机会。
GPT-4o发布将完善反馈循环：4o的发布将为模型提供必要的数据以改进多回合响应能力。想象一下，4o访问你的桌面并协助项目，这将在三年内显著提升其能力。
随着AI的发展，编程的传统方式将逐渐过时。