MiniMax闫俊杰:未来一两年模型推理成本还能再降一个数量级,但算力使用还会继续增长
- 香港卫视网
- 2025-07-27 12:13:36
-
收藏
闫俊杰
闫俊杰有一个判断,即“AI 会变得越来越强,而且这种增强几乎是没有尽头的”。
人工智能的强大有目共睹,业界也在讨论如何更好利用好人工智能,那么AI到底会不会被垄断?
闫俊杰在演讲中表示,AI领域一定会有多个玩家持续存在,且AI一定会变得越来越普惠,使用成本也会变得更加可控。“过去一年比较受关注 AI 的排行榜,可以发现最好的模型还是闭源的,但最好的开源模型越来越多,同时也在不断逼近最好的闭源模型。”
“在过去一年半, AI 模型的大小没有发生特别大的变化,即便我们可使用算力更多了。为什么呢?对所有实用模型而言,计算速度是一个比较关键的因素。如果模型计算速度特别慢,就会降低用户的使用意愿,所以所有公司都关注模型的参数量和智能水平之间的平衡。”闫俊杰指出,此前,模型大小增长和芯片的进步速度基本上是成正比的。芯片进步速度是每18个月会翻一倍,模型也会相应保持这样的增长趋势。而现在,虽然大家都有更多的算力了,模型参数却没有变得更大。
那这些增长的算力花在哪呢?
闫俊杰表示,训练层面来看,规模增长的速度在过去半年已经变得比较缓慢,训练单个模型的成本实际上却没有显著增加。这些算力花在做更多的研究跟探索上。拥有非常多算力的公司和没拥有那么多算力的公司,在训练上其实的差异可能不会那么大。没有那么多算力的公司,可以通过持续提升自己的实验设计、提升思考能力和组织形式,让实验探索变得更加高效。
其次是推理,在过去一年,最好模型的推理成本其实是降了一个数量级,通过大量的计算网络系统和优化算法,“我们认为在接下来一两年之内,最好模型的推理成本可能还能再降低一个数量级。总结而言,我们认为训练单个模型的成本不会显著地增加。”
闫俊杰指出,大量创新能让AI研发变成一个没有那么烧钱的行业,但是算力使用还会增加。尽管Token会变得很便宜,但是使用Token的数量会显著增加。去年ChatBot单个对话只要消耗几千个Token,现在Agent单个对话可能消耗几百万个Token,并且因为AI解决的问题越来越复杂,越来越实用,那么用的人也会越来越多。
关键词:
相关推荐
朱婷两战43分 为球队进入决赛立下汗马功劳
推荐 2019/04/18西安奔驰女车主和西安利之星达成换车补偿等和解协议
推荐 2019/04/17“奔驰女车主哭诉维权”,消费者维权不该这么难!
推荐 2019/04/15人脸识别,取件“潮”起来 消费者:刷脸行 但镜头高够不着
推荐 2019/04/12乘电梯还要“左行右立”吗?如何乘梯才更安全?
推荐 2019/04/11热门资讯 日 周 总
世界人口日|年龄不是衡量生育的唯一指标,科学的生育指导尤为必要
健康 2025/07/17首个澳门注册上市创新中药!以岭药业芪防鼻通片添“新身份”
健康 2025/07/17腾讯健康与康美药业达成战略合作,科技创新为中医药现代化提速
健康 2025/07/17陕西省医学传播学会细胞免疫治疗专业委员会成立大会暨第一届学术会议召开
健康 2025/07/17国家中医药管理局提醒:警惕“网红医生”,三伏贴治疗要去正规医疗机构
健康 2025/07/17澳门将办“绿色公众日”活动 鼓励市民环保生活
节目 2019/03/26抖音多闪精准推荐多位“好友” 博士生起诉抖音、多闪侵犯隐私权
节目 2019/03/25香港科学园举办大型创科招聘会 60秒求职擂台现场面试
节目 2019/03/13中国原创赛事高山定点滑雪公开赛总决赛落幕
节目 2019/03/12首例斑狐猴三胞胎正式与游客见面
节目 2019/03/07- MiniMax闫俊杰:未来一两年模型推理成本还2025-07-27
- 智元机器人启元通用具身大模型摘得世界人工2025-07-27
- 智元发布“灵渠OS”开源计划,稚晖君人机探2025-07-27
- 中国三峡集团与中国雅江集团座谈并签署战略2025-07-27
- 中移动杨杰:智能经济有望推动全球GDP年增2025-07-27
- “AI教父”辛顿:多模态聊天机器人已具有“2025-07-27
- 国家统计局解读:6月份规模以上工业企业利2025-07-27
- 农业农村部等十部门印发《促进农产品消费实2025-07-27
- “融合共生,智创未来”数智跳动暨言付通202025-07-25
- 科赛尔Kossel®发布植物科技新品 助力女性2025-07-25
- 中国进出口银行:上半年累计投放制造业贷款2025-07-24
- 国家能源局:今年1—6月全国绿电交易电量同2025-07-24
- 市场监管总局着力整治质量领域“内卷式”竞2025-07-24
- 上半年中国金条及金币消费同比增长23.69%2025-07-24
- @求职者 医疗卫生、人工智能行业等4个线上2025-07-24
- “广西国家储备林林票2.0”首批项目线上挂牌2025-07-24
- 发展向“新” 广西侨乡玉林上半年GDP同比2025-07-24
- 2025中国互联网大会开幕 “智能体”引热议2025-07-24
- 中外企业热议海南自贸港全岛封关政策:红利2025-07-24
- 报告:2024年中国开源操作系统实现关键技术2025-07-24
- 财政部发布《2024年度企业会计准则实施情况2025-07-24
- 城乡融合绘就巴渝乡村振兴画卷2025-07-24
- 海南自贸港封关意味着什么?有哪些变化?一2025-07-24
- 河北上半年累计开行中欧中亚班列633列 同2025-07-24
- 丰隆深港科技园:大湾区企业出海的战略支点2025-07-24
- 中国互联网大会热议智能体:未来人类或管理2025-07-24
- 香港金管局总裁:要按稳妥、可持续原则落实2025-07-24
- 我国互联网普及率79.7% 这些“高科技”正2025-07-24
- 31省份6月CPI出炉:14地上涨,宁夏止步“152025-07-24
- 湖南永州新兴产业崛起 开辟地方经济新赛道2025-07-24