□本报记者 王萌
“国产芯片和国产大模型之间,缺一座桥。我们做的就是搭桥的人。”5月26日,在海淀区人工智能创新街区,清程极智联合创始人师天麾站在台上,身着一件写着“清程极智”衬衫,向记者介绍公司的核心技术和产品布局。他身后的PPT上,“八卦炉”“赤兔”和“AIPing”三款产品依次排开。
“‘清程极智’拆开来看,‘清’是清华,‘程’是程序,‘极智’是极致智能。”师天麾解释道。正如其名,2023年底,几个从清华大学计算机系高性能计算研究所走出的年轻人,在海淀创立了这家公司,专注AI基础设施。
“打游戏”打出的冠军路
师天麾与计算机的缘分,始于小学时一个“不务正业”的爱好——打游戏。
“为了玩游戏,加入了计算机兴趣小组。”他回忆说,“结果发现编程比游戏好玩。”正是这份兴趣带他走上信息学竞赛的路,高二拿下全国金牌,保送清华大学计算机系。
18岁进入清华大学,师天麾想:我学的这些东西,将来能用来干什么?他先去了一家自动驾驶公司实习,做当时最火的计算机视觉。实习结束后,师天麾感觉获得的成就感不是太多,业界流行的方向未必适合自己。
真正的转折点在大三。一堂高性能计算课上,他第一次体验到“让代码飞起来”的成就感。他主动找到清华高性能计算研究所的翟季冬教授,一头扎了进去。在翟季冬的课题组,师天麾不仅积累了深厚的技术功底,还参与大模型训练系统和大模型推理引擎的开源,更结识了一群志同道合的同门。他们后来成为清程极智创始团队的核心成员。
2023年底,清程极智在清华科技园成立,办公室离清华校园不到300米,这个距离正是从学术到产业的自然延伸。团队80%以上研发人员平均年龄不到30岁,最小的还是刚保送清华的高三学生。“年轻人代表着未来。”师天麾说。
沿着训练、推理到应用的技术链条,清程极智先后推出了“八卦炉”“赤兔”和“AIPing”,分别对应大模型训练系统、推理引擎和Token应用评测调度三大产品体系。
八卦炉“炼”好AI的脑
大模型是怎么训练出来的?师天麾打了个比方说:就像“炼丹”,海量语料投进去,慢慢“炼”出有模有样的智能。清程极智大模型训练系统因此得名“八卦炉”。
“很多人觉得买越多显卡,算力就越强。但如果没有好的系统软件,再好的硬件也是一盘散沙。”师天麾解释,AIInfra就像是硬件和算法之间的“操作系统”,负责把成千上万张显卡组织起来,让它们高效协同。“八卦炉”要解决的核心问题,就是让国产算力集群不仅“能用”,更要“好用”。
在实际训练中,挑战远比想象中复杂。“几百张卡一起跑,一张卡慢了,整个集群都得等它。”师天麾比喻道,就像一千个人接力跑,只要有一个人掉棒,所有人的成绩都受影响。为此,“八卦炉”在并行策略、通信调度、显存管理等关键环节做了大量深度优化,将大规模集群的计算效率提升了数倍。
如今,“八卦炉”已在多个大规模国产算力集群完成适配验证,训练效率已可“比肩”业界标杆。在与智谱公司的合作中,团队围绕并行策略、通信算子与显存使用等关键环节进行了深度优化,推动模型算法与系统设计的协同进化。
骑“赤兔”追平推理的秒
如果说训练是大模型的“创造过程”,推理就是它的“使用过程”,用户每向智能体提一个问题,背后都是一次推理计算。清程极智的第二款产品“赤兔”就是专门让这个过程变快的。
2025年初DeepSeek爆火,清程极智接到的电话接连不断。大量企业希望快速部署DeepSeek,但一个现实难题横在眼前:DeepSeek原生模型使用的FP8数据格式,大部分国产显卡在硬件层面并不支持。
“就像你有一台只能读中文的打印机,却收到一份英文文档,打不出来。”师天麾解释说,“要么买新硬件,就是换打印机;要么找个软件优化,进行翻译。赤兔做的就是‘翻译’。”
针对大模型部署成本高、国产算力适配不足的“痛点”,清程极智推出“赤兔”推理引擎,作为完全自主研发的国产推理引擎,“赤兔”通过底层软件技术的革新,在非英伟达Hopper架构GPU及各类国产芯片上实现了对低位宽浮点数的原生支持。
“原来四台国产服务器才能跑起DeepSeek满血版,部署‘赤兔’后,一台就能跑起来——省了75%的显存。”师天麾告诉记者,部分场景下单卡吞吐量甚至提升了整整两倍。
这款以“赤兔”命名的产品,已成为清程极智与清华大学团队联合开源的标杆项目。开源之外,企业版“赤兔”也为金融、能源等行业客户提供着高性能的私有化部署服务。在一券商的落地案例中,“赤兔”让推理效率提升至原来的两倍;在一石油石化企业的智能采购平台上,“赤兔”在有限的硬件上跑出了超预期的性能。
靠“AIPing”选对服务的道
模型能训了、能跑了,但企业想用起来,又遇到新问题——市面上的大模型API服务太多,怎么选?师天麾的团队又把目光投向了新命题:智能token如何高效流通?
“买Token还是需要很多知识的。”师天麾举例说:同一模型在不同服务商那里,“聪明程度”可能天差地别;标价一样,成本可能差好几倍;有的服务质量忽高忽低,用户花了钱却得不到稳定体验等。
今年1月,AIPing平台正式上线。这个被业内称为大模型服务“大众点评”的产品,成为清程极智给行业的新答案。
AIPing做的事情直截了当,接入30多家国内主流大模型API服务商,对六七百个模型进行7×24小时不间断评测,把延迟、吞吐、稳定性、模型精度等关键指标实时挂在官网上,让所有用户都能看到。
“我们不是在替用户做选择,而是给用户一把选型的标尺。”师天麾说。在此基础上,AIPing还提供智能路由功能——用户只要提出对延迟、吞吐、价格的需求,系统就能自动匹配当前时间点性价比最优的服务商。实测数据显示,客户接入AIPing后,Token成本平均降低一半,吞吐提升至少33%,延迟降低至少20%。
“我们的终极目标是用户提需求,平台自动匹配模型和服务商,直接返回可用结果。”师天麾说,AIPing让AI应用变得多快好省。
“创业比读博还难”
聊完产品,记者问起创业感受。师天麾笑了:“读博挺难,但创业比读博难多了。”因为创业的不确定性很大:从研发到产品,从融资到销售,从品牌到管理,任何一个环节掉链子,都可能影响公司的发展。
“这些是学生时代从来没被训练过的。”师天麾坦言,从博士毕业生转变为联合创始人,他一度有些不适应。销售团队搭建起来之前,师天麾要去论坛演讲、跑客户、做宣传,产品设计、项目管理等全新领域,他都是硬着头皮在学。
在被问及若有师弟师妹来咨询创业建议时,师天麾说:“我会先泼一盆冷水,让他们反复问自己,这个业是非创不可吗?”
“因为创业者最重要的品质是勇气和热爱,一定会有很多挫折。”师天麾说,“但不要太束缚自己。在做选择时思考下10年、20年之后,自己要成为什么样的人。”
但对师天麾来说,答案一直都很肯定。在海淀这片创新热土上,这个从清华园走出的年轻人,和一群平均年龄不到30岁的伙伴,在国产算力的赛道上正奋力奔跑。
