清程极智师天麾:AI产品告别“唯功能论” Token成本成为落地新标尺
来源:证券时报·e公司 作者:阮润生 2026-08-25 18:34
Aa 大号字

随着大模型能力提升与优质算力资源的稀缺,AI产品竞争正在从“能不能做出来”,转向“能否以可控成本,稳定完成有价值的任务”。

清程极智作为国内AI Infra(AI基础设施)代表企业,日前在深圳举办了一场“爱拼·特种兵黑客松”。公司联合创始人师天麾日前接受证券时报等媒体记者采访时表示,当前AI行业已告别“唯功能论”的粗放式发展阶段,从模型能力比拼转向落地效率与成本精细化竞争。只要大模型算法还在进步、新型硬件持续推出,算力系统优化就有持续迭代创新的机会。后续清程极智将围绕全栈联合优化、国产芯片深度适配以及大规模集群优化方向持续发力。

强化Token资源考核

本次清程极智发起的“黑客松”比赛,要求120多位参赛者在约2天时间内,将城市、办公、创业、情绪、健康等细分场景需求,转化为可运行、可落地的AI产品。参赛者不分年龄、职业背景。

记者在现场注意到,上百位参赛者集中在一个会议厅内,有小朋友歪着脑袋敲打键盘,也有参赛者全身武装,戴上滑雪眼镜和黑色口罩,只在喝水间隙挪开一下口罩,然后迅速遮盖住口鼻,紧盯屏幕。场内不时有人员穿插走动,但大家都兴致很高,时而瞅着自己的电脑,时而望向大屏幕的路演内容,对于惊艳的Demo毫不吝啬地给予呼声和掌声。

在大部分常规黑客松,Token(词元)用量并不是最核心的打分项目,但是在清程极智的黑客松活动中,Token消耗纳入产品设计和最终评审。据介绍,每支参赛队伍获得价值1000元的启动Token,每两个小时可以补给一次Token用量,但是Token用量会影响得分。

有几组路演结束的参赛队伍向记者表示,他们项目的Token用量价值控制在200—500元左右,但后续项目肯定还需要继续完善。

对于黑客松是否变相鼓励“古法编程”的质疑,清程极智强调比赛比的不是谁更省Token,而是助力开发者形成对于AI产品落地时Token取舍的意识:哪些功能值得保留,哪些调用确有必要,如何在效果、成本与稳定性之间找到平衡。

师天麾表示:“很多AI Demo看似效果优异,但放在生产环境,可能会存在Token调用成本高、稳定性差、资源浪费严重等问题,无法适配真实产业的长期落地需求。我们打造的‘爱拼·特种兵黑客松’是希望回归AI产品落地本质,以真实的Token资源约束,支持更多开发者实现产品‘效果、成本、稳定性三位一体’。”

算力系统持续优化

在优质算力稀缺的背景下,Token成本约束具备现实意义。8月初,DeepSeek预告大幅上调API定价,随后发布峰谷调价公告,并在8月23日优化规则,周六、周日全天统一按低谷(空闲)价格计费,不再执行工作日峰谷;工作日保留峰谷机制。

有多位参赛者向记者表示,自己常用的大模型就是DeepSeek,本次峰谷计价成本有影响,尽量选择在非工作时段调,以节约成本。

对于DeepSeek涨价的影响,师天麾向记者表示,并不清楚其涨价详情,但整个市场缺少高质量的Token,“让大家不是去卷价格,而是去卷服务质量,提供高性价比Token,这才是一个健康的发展路线。”

当前GPU算力产能严重受限,而算力供需缺口持续扩大。在硬件产能短期无法突破的前提下,软件算力调优就成了核心突破口。师天麾介绍,公司的核心思路是通过底层优化,充分挖掘硬件潜力,让单块显卡发挥出1.5倍甚至2倍的性能,以此有效缓解算力不足、需求过剩的行业压力。

结合行业发展规律来看,只要大模型算法还在进步、新型硬件持续推出,算力系统优化就有持续迭代创新的机会,这也是行业的长期机遇。而清程极智将围绕全栈联合优化、国产芯片深度适配以及大规模集群优化发力。

据师天麾观察,今年各家显卡厂商的开放程度有明显提高,与国产显卡厂商方面合作的优化项也更深入和全面,包括算子优化、编译优化、多层次混合并行推理方案等系统级优化工作。此外,公司自研赤兔推理引擎可以适配多种国产和国际主流显卡,为Token生产降本增效。

日前,清程极智与国产超算“灵晟”联合完成纯CPU MoE模型分布式推理方案,通过算力、模型与推理软件的系统级协同优化,让超算中心成为持续生产大模型Token的“工厂”。

打开Token质量盲盒

对行业而言,有限Token补给、统一调用记录和重复运行测试,也提供了一个具体窗口,用来观察AI应用如何从能力展示走向可持续交付。

本次大赛开发者所有Token调用,均通过清程极智旗下AI Ping平台进行,并借助清程极智Token管理工具—ATM实现记录与统计,使用模型、Token费用和调用时间均在后台实时呈现,为作品的成本核验和过程复现提供基础,确保每一次调用都可追溯、可核验、可复盘。

“阿里云、腾讯云、天翼云、硅基流动这些厂商都是我们平台的服务商。我们一方面把各家的模型服务全部集成过来;另一方面联合信通院、中国软件评测中心以及清华大学,对每一家提供的模型服务做评测。”师天麾以DeepSeek为例,同样一个模型,跑在不同服务商的Token实际质量和在原厂可能是不一样的。因为不同云厂商底层算力条件不同,部分厂商还会对模型做量化处理,会带来服务效果上的差别。但这些底层改动,普通开发者是看不到的,过去整个环节就是一个黑盒,而清程极智就把模型真实的服务质量显性化呈现出来。

作为一站式Token服务平台,AI Ping还具备评测和智能路由等能力,对不同厂商、不同模型Token的延迟、稳定性、吞吐与性价比等关键指标进行长期观测,目前已覆盖30余家中国大模型Token服务商,600多模型服务。

智能路由也是AI Ping的重要技术之一,会根据开发者需求自动匹配最优模型和服务商,形成评测与路由的正向飞轮效应。

师天麾介绍,Agent架构设计及模型选择的权衡是影响Token效率的核心。除传统指标外,KV Cache(键值缓存)命中率、任务完成率、模型精度等成为衡量Token质量的重要维度,后续公司会逐渐开放更多的测评标准。

“缓存命中对整体成本影响极大。常态连续多轮会话场景下,理论缓存命中率可以做到90%以上。如果大规模业务中能实现90%缓存命中率,模型调用成本可以降到原先的1/10。”师天麾向记者进一步介绍,如果缓存命中率从90%下降到80%,看似只下降10个百分点,实际成本变化非常剧烈,因为未命中的输入Token本身成本很高,未命中占比会从10%抬升到20%,整体成本直接翻倍。这将是公司今年重点关注的问题之一。

责任编辑: 王智佳
e公司声明:文章提及个股及内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
更多相关文章
热门解读 更多
视频推荐 更多
热门股票 更多
股票名称 最新价
涨跌幅