OpenAI前科学家Ilya称大模型见顶,AI回归科研时代
2025.11.26
OpenAI前首席科学家Ilya Sutskever近日在深度访谈中重磅宣布,大模型领域依赖参数、数据和算力堆砌的Scaling Law(缩放定律)时代已正式终结,'大力出奇迹'的发展路径遭遇瓶颈。他指出,随着互联网高质量语料接近枯竭、训练成本激增,仅靠扩大规模已无法实现突破性进展,AI行业正从'扩展时代'回归'科研时代',需转向探索情绪机制、价值函数等基础研究新方向。
7 个来源
Scaling Law时代终结的正式宣告

Ilya Sutskever在长达1小时36分钟的深度对话中明确表示:‘我们正从扩展时代回归到研究时代’,标志着过去五年主导AI发展的Scaling Law范式发生根本性转变。[1][2]

这位曾主导OpenAI技术路线的前首席科学家直言不讳地指出,当前大模型训练已触及关键瓶颈——互联网可获取的高质量语料资源接近枯竭,预训练模式难以为继。[3][4]

他形象地比喻道:'目前的模型像刷了10,000小时题目的学生,虽然能解题但缺乏真正的智能;而人类(有天赋的学生)即使练习很少,也能展现出更好的泛化能力。'这一论断彻底否定了单纯依靠数据规模提升模型能力的传统路径。[5]

'大力出奇迹'路径的三大核心瓶颈

高质量数据枯竭成为首要制约因素。尽管网络可索引数据总量庞大,但真正有价值、低重复的高质量内容已严重不足,Ilya Sutskever直接宣告’预训练时代即将结束’。[1][2]

训练与推理成本激增构成第二重障碍。头部企业如OpenAI、谷歌和Anthropic在2025年新一代模型研发中普遍遭遇性能提升放缓问题,算力投入的边际效益急剧下降。[1]

模型泛化能力不足暴露根本缺陷。Ilya在访谈中深入探讨了AI为何总在泛化上输给人类的问题,指出当前技术路线后劲不足——‘模型虽持续改进,但缺乏突破性进展’。[3][4]

AI回归'科研时代'的三大新方向

Ilya Sutskever特别强调需要’重新重视基础研究’,提出以下关键转型方向:

  • 情绪与价值函数研究:‘我们高估了算力,低估了情绪’,主张探索情绪机制如何塑造智能体的价值判断和学习效率,这可能是实现真正泛化能力的关键。[1][2]

  • 推理扩展定律(Inference Scaling Law)崛起:通过’快思考’与’慢思考’结合、链式推理(CoT)、自我改进和测试时计算(TTT)等技术,2025年推理模型在复杂任务上实现指数级性能提升。[3]

  • 多模态融合与精度-效率协同:如Meta的Chameleon采用早期融合多模态架构,大幅提升训练效率;DeepSeek-Prover-V2通过算法优化使数学证明任务错误率降低60%,展示新路径可行性。[3]

行业生态的深度重构与未来展望

这一范式转变正引发AI产业链全面重构:

  • 研发重心转移:企业从’堆数据、堆参数、堆算力’转向算法创新与基础理论突破,合成数据生成和课程学习成为应对数据枯竭的新趋势。[1]

  • 硬件需求变革:英伟达Blackwell Ultra芯片通过推理速度提升1.5-11倍、算力提升7倍的特性,正适应’精度-效率协同优化’的新要求。[1]

  • 应用场景深化:AI在医疗、机器人仿真等垂直领域的落地加速,Sora视频生成模型推动内容生产方式变革,为行业开辟新路径。[1]

Ilya Sutskever在访谈中坦言已’不再感受AGI(通用人工智能)的临近’,但强调回归基础研究将为AI发展注入新动力,开启’推理创新+多模态融合+高效能耗’的全新阶段。[2][1]

本内容由AI生成