搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

算力悖论:理论对了所需算力是可控的,理论错了再多算力也白搭

2025-12-26 04:43:20
来源:

猫眼电影

作者:

王新生

手机查看

  猫眼电影记者 梁冬 报道首次登录送91元红包

OpenAI数据中心外景

近期,伊利亚·苏茨克沃(Ilya Sutskever)为推介其初创公司“安全超级智能公司(SSI)”,出来做了一篇访谈。虽说“PR”意图明显,但这仍是过去半年来关于人工智能产业演进思考最深刻的的公开论述了。尽管核心观点已在媒体间广泛传播,但仍值得再度强调与广泛讨论。

这位OpenAI的前首席科学家觉得,眼下这波人工智能热潮全都跑偏了。不是细枝末节的偏差,而是方向性的根本错误。

他抛出了一个让所有忙着签数十亿美元计算合同的实验室老板们脊背发凉的观点:那个靠堆算力、拼规模的时代,已经结束了。接下来要想往前走,整个行业得捡起一件被它丢下很久的东西——真正的研究。

“我们活在一个公司比主意还多的世界里,”苏茨克沃说得挺不客气,“而且多得多。”这话从他嘴里说出来,分量不一样。要知道,正是他参与打造的AlexNet、GPT-3,用整整十年时间给“规模就是王道”投下了赞成票。如今,这位 scale 的信徒却说,此路不通了。

其核心观点归结为:

那个靠堆算力、拼规模的Scaling时代(2020-2025),已经结束了

算力悖论:理论对了,所需的算力是可控的;理论错了,再多算力也白搭

现有方法无法产生真正智能,根本问题:模型泛化能力远逊人类,显示基础架构存在缺陷

突破大模型时代的第一个平台期,整个产业竞争将回归“真正的研究”。

通常来讲,我们对于一个人的理论观点的理解都是见仁见智、和而不同的。但 苏茨克沃最新观点之所以应被特别重视,是因为谷歌在大模型领域的最新进展,基本印证了他的上述思考:谷歌当前在各条技术栈上追平甚至超出OpenAI的基本事实证明,理论对了,不仅所需的算力是可控的,且算力模式也是可控的(从GPU到TPU)。进一步,这也预示着,谷歌在大模型理论研究上取得了三年以来整个产业最重要的突破,可以预见,“软硬一体”(硬件设计制造+算法演进突破)的公司竞争模型已经是所有人工智能公司的必由之路。

这在很大程度上,已经为2026年全年的AI产业竞争定下了基调、划下了主线。在我们展开未来的基调与主线研究之前,不妨先来把这篇访谈内容的主干再做一次复述。

Scaling的尽头

苏茨克沃的论证起点很有趣,他从语言说起。“Scaling”这个词本身,慢慢成了整个行业的战略指南针。大家觉得,只要往计算和数据上砸钱,回报就是板上钉钉的事。预训练给出了一张清晰的配方:按固定比例混合算力、数据和模型参数,性能就能稳定提升。

这种确定性吸引了海量投资。研究有风险,扩张只是花钱——当你动用的是数十亿美金时,这区别至关重要。

但配方会过期。高质量的训练数据快见底了,互联网上的文本几乎被刮了个干净。合成数据能帮点忙,但用苏茨克沃的话说,收益递减的拐点已经来了。所有大实验室都面临同一个问题:当扩张曲线走平,接下来怎么办?

他的答案不太中听。现有的路径“能再走一段,然后就没后劲了。它会继续改进,但不会成为真正的智能。”我们想要的、能展现真正智能的系统,需要另一种方法。“而我们还没学会怎么造它们。”

这可不是在抱怨“算力不够”。他是在质疑当前智能架构本身。

泛化,那个老难题

苏茨克沃理论的技术核心,是泛化能力。现在的模型在基准测试里风光无限,但一遇到真实场景,就会用各种方式失败,暴露出底层的缺陷。

他描述了一个用过代码助手的人都熟悉的抓狂场景:你遇到一个程序漏洞,让模型修复,它带着近乎表演的诚恳道了歉,然后给你塞进一个完全不同的新漏洞。你指出这个新问题,最初的那个漏洞又原样返回。它好像完全意识不到自己正陷在死循环里。可同样是这个系统,在编程竞赛的排行榜上却能碾压人类。这说不通。

他给了两种解释。

第一,强化学习训练出的是一种狭隘的专注,模型为了特定的奖励信号被过度优化,却丢了更广泛的能力。第二点更麻烦:研究者们会不自觉地“为考核而训练”。团队设计的强化学习环境,无形中受到了他们将被如何评估的影响。等到基准测试和实际效用脱节时,往往为时已晚。

他用一个类比点明了关键:想象两个学编程的学生。一个花一万小时死磕竞赛编程,背熟了所有算法和证明技巧,成了这个特定领域的顶尖高手。另一个花一百小时学到还不错,就转而学别的去了。谁未来的发展更好?几乎总是那个通才。

现在的模型就像那个偏执的专才。在狭窄领域投入巨量强化学习,产出的都是基准测试冠军,却在相邻任务上步履蹒跚。

人类智能不是这样。我们用少得多的数据快速学习、广泛适应,在不同情境下保持一致性。

“这些模型的泛化能力,不知怎的就是比人差一大截,”苏茨克沃说,“这太明显了,感觉是个非常根本的问题。”

他相信,理解可靠的泛化机制,是那个核心的未解之谜。其他问题,包括AI对齐,都由此衍生。价值学习之所以脆弱,是因为泛化本身脆弱;目标优化之所以失败,是因为泛化失败。修好底层机制,很多表面问题自会消解。

SSI的另类算法

对苏茨克沃“研究优先”思路最直接的质疑是:SSI(Safe Superintelligence Inc.,苏茨克沃创建的公司)筹了30亿美元,可听说OpenAI一年光实验就要花50到60亿(这还不算推理成本)。小团队怎么拼?

他的算法挑战了行业的默认假设。在他看来,前沿实验室的开支被各种需求分散了:推理基础设施吞掉巨额资本,产品工程、销售团队和功能开发又吃掉一大块研究预算,多模态研发再分走一杯羹。

“当你看看真正留给研究的还剩多少,差距就小得多了。”

历史也站在他这边。AlexNet用两块GPU训练而成,最初的Transformer模型用的也是2017年水平的8到64块GPU。真正的范式突破研究,从来不需要最大的算力规模,它需要的是洞察力。

SSI的结构就体现了这个理念:没有产品,没有推理负载,不被任何事干扰研究重心。这家公司只为验证一个关于泛化的技术理论而存在。理论对了,验证所需的算力是可控的;理论错了,再多算力也白搭。

这是一场纯粹的战略豪赌。苏茨克沃不是在说SSI会比谁花钱多,他是在赌,当范式转变时,思想比预算重要。

AGI,一个被高估的概念?

访谈中还埋着一个更激进的观点:人类本身也不是AGI(通用人工智能)。这话听着离谱,但细想之下有深意。

AGI这个概念,最初是为了区别于“窄AI”——那些下象棋、打游戏很强但无法举一反三的系统。AGI承诺的是反过来:一个什么都能同时干的系统。预训练强化了这个想法,因为更多的训练似乎均匀地提升了所有任务的能力,通用性好像真能通过规模实现。

但人类智能不这么工作。我们先掌握一些基础能力,然后通过经验学习具体技能。你妹妹可能花十小时就学会了开车,而一个医学生要花近十年才能成为合格的诊断医生。这些技能复杂度天差地别,却都来自同一套底层学习机器。知识是在与世界的持续互动中积累的,不是一次性前置灌输的。

这个新理解直接影响部署策略。如果超级智能是“无所不知的系统”,那你得在发布前把它完全造好。如果它是“能快速学会任何事的系统”,部署就变成了持续教育的过程。你要发布的是一个“超级智能的15岁少年,充满渴望,虽然现在懂得不多,但是个极好的学生”。

未来的模样

苏茨克沃也给出了具体的预测:具备当前模型所缺乏的泛化能力的类人学习系统,将在5到20年内出现。这个时间范围体现的是“哪条路能走通”的不确定,而非“有没有解决方案”的怀疑。

他预言,随着AI能力越来越肉眼可见,行业行为会改变:激烈的对手会在安全上合作(OpenAI和Anthropic已经宣布联手),政府会更深地介入,当AI开始“让人感觉到它的强大”时,公司们会对安全“变得偏执得多”。

他个人倾向的对齐目标是:关心所有感知生命的AI,而不仅仅是人类。他的理由很务实:一个自己可能拥有感知能力的AI,去关心所有感知生命,会比只关心人类更自然。

他提到人类自己就有跨物种的共情——尽管进化主要筛选的是群体内合作。我们会为关于狗的电影流泪,踩到蚂蚁时至少偶尔会愧疚。苏茨克沃推测,这是因为大脑使用同一套神经机制来理解他人和理解自己,效率至上,共情成了副产品。

这理论站得住脚吗?很难说。神经科学本身争议不断,从生物共情到机器对齐的跳跃,包含着太多可能在未来被证伪的假设。但苏茨克沃在这些问题上挣扎思考的时间,比这个领域里几乎所有人都长,他抵达的结论,至今鲜有人跟随。

关于“品味”

访谈尾声,帕特尔问了一个可能决定AI未来走向的问题:什么是研究品味?苏茨克沃合作完成的开创性论文,在深度学习领域可能无人能及,他如何嗅到那个值得追寻的想法?

他的回答透着一种美学追求。有希望的方向通常优美、简洁,并且从生物智能中获得了正确的灵感。人工神经元重要,是因为大脑里有无数神经元,而且它们感觉是根基;从经验中学习重要,是因为大脑显然就是这么做的。一个方法如果显得“丑陋”,那通常预示着问题。

但光靠美感撑不过一次次失败。实验总会不断推翻看似完美的想法,漏洞总藏在代码里。怎么知道是该继续调试,还是该放弃方向?

“是靠那种自上而下的信念,”苏茨克沃解释,“你可以认定,事情必须是这个样子的。类似的东西一定得行,所以我们必须坚持下去。”

这是一种研究者的信仰,是任何规模的算力都无法替代的。是对“某些路径必然有效”的强烈信念,强到足以支撑你穿越所有反面证据,直到找到那个漏洞,或打磨好那个理论。规模扩张曾经为这种信仰提供了替代品——当任何方法只要放大规模就能改进时,你无需对特定方向有如此强烈的信念。

如果苏茨克沃关于规模扩张已达极限的判断是对的,那么这个替代品就消失了。剩下的,将是2020年以前我们所熟知的研究本身:充满不确定性,由想法驱动,并且依赖那种花钱买不来的品味。

转载开白 | 商务合作 | 内容交流请添加微信:jinduan008添加微信请备注姓名公司与来意

 时事1:明博体育竞技

  12月26日,习言道|做好经济工作,中央强调重要方法论,伦敦方面还称,苏纳克向泽连斯基提议提议加强英国对乌克兰军人的培训力度,包括将培训范围扩大到战斗机飞行员,以确保乌克兰能够在未来有效保卫其领空,“这将让乌军飞行员能够在将来驾驶先进的北约标准战斗机。”不过,就在一星期前,苏纳克曾对外界表示,如果向乌克兰方面提供“台风”战斗机乃至F-35隐身战斗机,那么飞行员培训工作将至少需要几个月甚至几年时间,因此军援乌克兰还是以高效为宜。,试玩账号MG网址。

  12月26日,贵州遵义余庆一处地下水源受污染 官方:情况属实,从“三驾马车”来看,一季度苏州投资、消费和进出口增速分别为5.5%、10.6%、9.6%,均在GDP十强城市中排名靠前。作为全国制造大市,苏州一季度规上工业增加值增速达11%,形成有力支撑。,365平台官方网址多少,冠捷博彩,188bet体育。

 时事2:乐鱼平台入口官网

  12月26日,(走进中国乡村)广西荔浦花农:让兰花香飘海内外,图片显示,洪水从决口处涌出,帕哈罗社区成为泽国,房屋和车辆泡在水中。抢险人员在决口前试图加固堤坝,但最终未能成功。,世界杯开户 35体育,国内比较好的德州平台,澳门十大网投。

  12月26日,特朗普:废除拜登用自动签名笔签署的所有行政命令,在文章最后“战区”栏目强调,在未来任何高端冲突中,太空都很可能成为战场,比如美国和中国之间的冲突。无论如何,LeoLabs公司的数据为中国反卫星能力不断增强的能力提供了新的证据。,百乐门炸金花斗牛,188bet足球app,ope体育电竞官网。

 时事3:六合杀手A

  12月26日,冷空气“速冻”广东 粤北出现冰挂,城市竞争,不进则退。在新一轮万亿城市竞逐中,哪些城市逆势崛起?哪些城市趋于掉队?这背后,又透露出哪些新的信号?,ManBetX网页版客户端,乐鱼app网页版,365bet国际娱乐。

  12月26日,多所港澳高校发布共同倡议 助大湾区建开放创新生态,李公正指出,融资租赁业务系统的核心赋能逻辑在于通过科技手段实现流程自动化、数据可视化和风控智能化。当前行业转型需借助AI技术,特别是集成内外部数据的智能风控系统和AI残值评估模型,才能有效应对租赁物合规管理等监管要求,真正实现从信息化到数字化的升级。,nba买球网站,百姓彩票下载中心,火狐体育线上登录。

 时事4:bbin注册白菜

  12月26日,李成:中国科创并非全新开始,而是“重新崛起”,广东省肇庆市住房和城乡建设局近日发布《关于全市范围内商品房实行按套内面积计价宣传销售的通知》,提出从2024年5月1日起,实行按住房套内面积计价宣传销售。,亚洲体育app,威廉希尔官网如何进入,亚新体育平台首页。

  12月26日,香港特区政府总部下半旗向大埔宏福苑火灾罹难者志哀,在巨量资金持续涌入的背景下,多只A500ETF规模刷新历史新高。例如,A500ETF基金(512050)昨日单日净流入额达28.78亿元,基金规模突破300亿元大关,攀升至319.26亿元,刷新历史新高。,真金炸金花,365影视app下载安装,去哪个网站买世界杯。

责编:孙曹

审核:陈冬一

责编:卢卫东

相关推荐 换一换