分享好友 最新动态首页 最新动态分类 切换频道
AI范式转变,国内机会会更多
2024-12-26 20:32

分析认为,明年AI的重点是推理。如果说训练还有技术封锁,推理是很难封锁的。推理比拼的不仅仅是技术,还有商业上能否建立良性内循环,这点从豆包、字节体系、其他国内巨头上都看到了希望。

AI范式转变,国内机会会更多

过去2年国内炒AI基本都是映射。但显然“豆包”这次完全是A股独立行情,虽然恰逢美股炒软件应用,但两者背后逻辑完全不同。尤其是上周美股软件高位调整下跌的情况下,A股应用依然在涨。当然大多没办法深究基本面,但底层逻辑有些微妙的变化。

博通的600-900亿、Ilya的“预训练放缓”,都指向了一点:明年AI的重点就是推理。对于国内来说,训练阶段不仅被技术封锁,还容易被海外开源降维打击,导致只看国内本身,从商业上没有形成良性生态,最终可参与的AI投资机会自然寥寥,真能算账的也就少数NV链上游。但推理和应用生态,理论上可以建立完善体系。

首先算力本身,如果说训练还有技术封锁,推理是很难封锁的。按照老黄的理论,训练用最新卡,推理用“N-1”代足够,参考NV这迭代速度,N-1代大概率结局就是过剩,过剩的产品会追着卖给你。何况现在有一个关键问题待解答,如果scaling的重心变了o1主张的test-time compute、强化学习post-train,还需要GPU“一年一迭代”这么快吗?如果说之前预训练Scaling law范式下,巨大的MoE参数、巨大的模型并行通信开销,都在呼唤Blackwell、Rubin等等更快出现。推理需求为主的市场,需要如此紧绷的迭代吗?显然o1在B卡还没部署的情况下,依靠H卡集群依然在每天快速进步。另一方面,一年一迭代也在推动FLops成本指数降低,这点无疑依然有巨大价值。但相比训练的价值逻辑变了(没你不行 vs 有你更好没你也行)。对于中国的推理需求来说,就是“有你更好,没你也行”。

其次,训练阶段能不能成,标准很单一。应用生态能否跑通,取决于每个国家的成本结构、商业模式、经济模型、产品供给能力,大家各有不同,是个复杂的商业问题。比如中国互联网的产品能力冠绝全球,从创意到执行到运营,但凡卷到海外去都是横扫。中国的商业生态又很极端,付费意识的整体薄弱让saas软件寸草不生,但充满智慧的互联网人又可以找到“free to play” “皮肤抽卡” “小R大R”、“to C再to B”等等商业模式创新,最终这些巨头一样赚得盆满钵满。因此AI应用推理这件事,到了中国互联网公司手里,能给你玩出花来...

之前一直有个困惑,就是由于我们买不到最新卡,单位Flops的推理成本永远比海外贵一点,同时我们的人力成本低从过去的优势变成了劣势(AI替换门槛高),很多场景ROI打正是不是会比北美难一点?结果最近刚刚得知,某些国内模型厂的to B业务已经盈利,在API价格战打骨折的行情下盈利!这背后的推理优化,隐含了大量“中国式”创新,之前文章我们说过,GPU采购受限的情况下,算力简直“八国联军”,倒逼中国infra出现了各种“工程式创新”,比如kimi的pre-fill、decode存算分离,deepseek幻方的分布式架构减少通信开销。虽然略显无奈,但国内推理优化进展比大家想象要快。

因此推理比拼的不仅仅是技术,还有商业上能否建立良性内循环这点从豆包、字节体系、其他国内巨头上都看到了希望。的确模型训练的结果可能决定了推理和应用的能力天花板,国内何时能追上o1和o2都是个未知数。但正如微软CEO Satya一直唠叨的,模型在“通用商品化”,开源模型的进步也很快(这点对我们很关键)。

一旦上述成立,很多投资机会自然打开,不需要完全照搬映射美股。比如美股的saas和软件在讲agent,我们回头先看看自己的软件和saas生态在哪里?

算力不再仅限于NV链,推理infra打开了很多机会。一方面北美链还在,而中国自己的CSP capex链条也可以挖(而且总盘子也不小)。其次ASIC链条机会核心在于,将NV内化的那部分价值,释放给行业上下游。比如networking(光/铜/交换机)、封装、甚至流片。为什么周五博通能带着台积电大涨?GPU过去让台积电赚不到5%的辛苦钱,ASIC薄利多销的特点,实质上提升了台积电在整个CSP资本支出中的蛋糕分配比例。铜缆和AEC这些就不说了,光模块是不是也有逻辑改善?按照博通说的几家CSP都是百万卡、且都是singe fabric,更不用提Ciena这种DCI直接受益的。以及训练完全集中于数据中心,而推理一定会在端侧泛化,新旧终端的机会可能才刚刚开始。

文章来源:信息平权,原文标题:《AI范式转变,国内机会会更多》

风险提示及免责条款

最新文章
雅培瞬感血糖仪app
雅培瞬感血糖仪app,一般又称瞬感宝app,FreeStyle LibreLink。
详细Fildder抓包Android教程
你需要的设备:一部Android手机一台Windows电脑Fiddler是什么摘自百度百科 Fiddler是一个http协议调试代理工具,它能够记录并检查所有你的电脑和互联网之间的http通讯,设置断点,查看所有的“进出”Fiddler的数据
短视频询盘企业获客软件实时抓取
  短视频询盘系统是微推圈基于短视频领域研发的企业获客软件。通过爬虫、识别技术,直接截取同行视频下方评论区域相应评论内容。采用监控和设置关键词技术自动匹配找到短视频上的同行意向客户。通过监控来筛选出来的行业里的客户,全部都
金杨股份12月13日获融资买入429.26万元,融资余额4500.36万元
12月13日,跌2.24%,成交额4181.15万元。两融数据显示,当日金杨股份获融资买入额429.26万元,融资偿还822.13万元,融资净买入-392.87万元。截至12月13日,金杨股份融资融券余额合计4500.36万元。融资方面,金杨股份当日融资买入429.26万元
百度推广方案深度优化策略全解析
本文深度解析百度推广方案优化设计策略,全面剖析关键词、创意、落地页等多方面优化技巧,助您实现高效推广目标。从策略制定到执行监控,全面解析,助力企业提升广告效果。在互联网时代,企业要想在激烈的市场竞争中脱颖而出,无疑是一个高
创新招聘选拔:考试系统精准匹配岗位能力
在招聘和选拔人才的过程中,企业往往需要面对诸多挑战。如何精准选拔符合岗位要求的人才,优化团队结构,提升整体工作效率和竞争力,成为企业亟需解决的问题。而考试系统作为一种创新的招聘选拔工具,正以其精准匹配岗位能力的特点,逐步构
百度搜索排名规则全解析
在当今数字化时代,百度作为国内(黑帽seo)的搜索引擎,其搜索排名规则对于网站的曝光度和流量至关重要,百度的搜索排名规则究竟是什么意思?又该如何去弄呢?关键词的相关性是百度搜索排名的核心要素之一,当用户输入关键词进行搜索时,搜
被误删的微信聊天记录如何恢复回来?掌握这三种方法就不必担心了
被误删除的微信聊天记录如何能恢复回来?我们在使用微信的过程中经常会出现误删除微信聊天记录的情况,有的聊天对于自己十分重要,如果你以为删除了就没办法恢复了,那就错了。下面介绍三种恢复微信聊天记录的方法,以后误删除就不用担心了,可以
瓦房店卫生间漏水维修公司电话〈免费检测〉瓦房店市卫生间渗水维修
不砸砖、不砸墙;免砸砖防水补漏技术,2小时快速解决漏水问题,超长保修期。漏水维修服务项目:防水堵漏、墙角渗水、楼顶漏水、洗手间渗水、漏水检测维修、地板下暗管漏水、天花板漏水、楼顶裂缝漏水、外墙飘窗渗水、下水管周围渗水、房屋墙面
网站优化知识分享之死链的危害
不要忽视一个死链接的影响,但要知道用户的忠诚度也依赖于积累。用户体验是网站终增长的基础。为了提高网站管理者的意识,定期使用网站死链接检测工具,检查网站上是否有死链接。一、死链的危害1、死链接将失去公关价值 PR值通过链接传递。
相关文章
推荐文章
发表评论
0评