2023 年底，几个 90 后清华博士在五道口附近的一间会议室里，给公司取了个名字——清程极智，有点中二，意思是“ 清华的程序员都很聪明 ”。彼时 Chat GPT 刚满一岁，他们拿着 PPT 到处解释“ 什么是 AI 的操作系统 ”，讲完之后对方通常还是没太听懂。
一年后DeepSeek 爆火，29 岁的师天麾忙坏了。订单找上门，投资人也找上门，不到半年融资过亿。
简单来说，他们能通过软件优化让本来要 4 台服务器才能跑起来的模型，1 台就能跑，成本直线下降。
但当然故事远不止于此。
本期受访者师天麾，高二拿到奥赛金奖保送清华，博士搞的研究项目被蚂蚁应用到反洗钱检测，还拿了大奖。后来，这个自称“ 不是最聪明，但很认真 ”的年轻人，选择了不去大厂，而是创业，带着一群平均不到 30 岁的同事，干一件比读博还难的事：用纯软件技术，给国产芯片装上“ 翅膀 ”。
以下是知危与清程极智联合创始人、产品副总裁师天麾的对话。
（ 本访谈将在小宇宙和抖音及 B 站上线播客版和视频版，在相关平台搜索 “ 知危 ” 即可。）
知危：老规矩，先给知危的观众简单介绍一下清程极智？
师天麾：我们成立于 2023 年底，是一家比较年轻的 AI Infra 创业公司。Infra就是基础设施层——如果把硬件比作手机，AI 比作应用软件，那 AI Infra 就是中间的操作系统，没有它硬件就无法发挥作用。
我们核心做两件事：生产 Token 和高效地交付 Token。具体来说，就是训练系统和推理引擎——你每一次和大模型的对话，回答都由推理引擎生成，它直接决定了服务的稳定性、响应速度和企业的成本。
这套系统软件看不见摸不着，容易被忽视，但非常重要。就像手机卡了，你可能以为是内存不够，但实际上可能是操作系统写得不好。AI 也一样，推理引擎决定了你在同样的硬件上能把AI跑多快、成本做到多低，这就是我们做的事情。
知危：所以其实所谓的硬件理论上能跑多少，实际不一定是真的跑那么快的。
师天麾：对，硬件就一个标称的参数，说有多么高的算力，但真正运行 AI 的时候，能不能达到这个峰值，或者能达到峰值的百分之多少，这个是软硬件协同来决定的。
知危：你们其实一开始创业就想要做一个 AI Infra 公司，还是说一开始是有一个核心问题，要去解决？
师天麾：其实公司成立之前，我还在读博士，我们组是做系统和高性能计算的，就是研究怎么让软件或者某个应用在硬件上运行得更快、更高效。
2022 年，23 年的时候，当时还有很多做训练的公司，他们训练非常的烧钱，用上我们研究的技术之后，就能省非常多。当时看来，当时虽然训练很烧钱，但是未来一定是推理的，但推理你怎么给它降本增效，还是要靠 infra 的技术，我们当时觉得需求是真实的，并且这个商业化的时间点也要到了，所以就决定创业。
知危：看报道说你很喜欢玩游戏，我之前聊的一些几个很年轻的基于 AI 的创业者，他们也非常喜欢玩游戏，这是不是这一代创业者的某种共性？
师天麾：这个还真不清楚，我也见过不喜欢玩游戏，只喜欢学习的小天才。我个人在小时候就喜欢玩游戏，所以为了多玩游戏就开始接触编程小组，写代码，写算法，数据结构，中学就开始正式的在学校里参加培训，参加省里的比赛，到高中参加全国的比赛。
知危：小时候玩什么游戏？
师天麾：梦幻， CS ，初中开始打 DOTA ，比较耐玩，而且会趁老师不在的时候和同学一起打。
知危：你属于大家都跟你一起玩，但是你最后考的还是非常好的那一个。
师天麾：其实其他同学考的也不错挺好，能留下来继续学竞赛的一般都是成绩还不错。
知危：然后高二你就获得了全国青少年信息学奥林匹克的竞赛金奖。
师天麾：对，拿金牌才有保送资格，然后高三就可以做自己的事情。
知危：当时这个金奖有多少个人呢，你给没考过的我们说说到底有多难？
师天麾：每科竞赛是不一样的，中国有五科竞赛，信息学或者说计算机编程竞赛的话，一年是 50 个金牌，50 个保送名额，我觉得还是不少的。其实会有很多小天才，比如高一甚至初中就拿金牌，会占掉一部分名额，所以每年真实保送的人可能 30 来个人。
知危：我看全国的决赛是在七八月份，所以你只有可能在高一高二的时候去考。
师天麾：对，高三来不及了。其实拿金牌之后，教育部就给你发一个保送资格，去哪家可以自己选。因为小时候看 DOTA 比赛，我感觉清华还蛮厉害的，小时候就有梦想说我考上清华，可以来参加 DOTA 队，但是上大学也没有时间打 DOTA 了，没有做到不忘初心。
知危：其实在高二的 8 月份，暑假的时候，你已经知道这个成绩了，你和参加高考的人其实有一个半年多的时间休息。
师天麾：对，其实一开始我还回教室待了一阵子，我想高一高二其实落下了一些课，说实在学的也不太好，想着是保送之后补一下文化课，但是我发现老师给我安排到最后一排的角落，上课时候也不会理我，我就在下面默默看书，他们都已经高三，开始刷题那个阶段了，但是我是在看一些比较旧的知识。
知危：你拉仇恨呢。
师天麾：老师那个时候也不搭理我，我也不用太跟老师互动，最多问点问题，后来看了几周书，没啥意思，就不去了。就去健身，背英语单词，看了看微积分，打游戏。
其实当时是没有人能很好告诉我，我应该做什么事情，对于以后的发展特别有意义的，但是像健身，学英语，学数学，这些事情都一定是有价值的。
知危：很多大学生直到毕业都不知道自己要干什么，你在清华什么时候明确未来你的方向的？
师天麾：其实在刚大一入学的时候特别忙，学校会用各种活动把你塞满，课也排很满，作业量也很大，那时候还不太用思考要做什么，先适应大学的生活。差不多大一暑假的时候就开始思考我之后要干嘛，班里有小辅导员，建议我多尝试，所以刚上大二的时候，我就去了 Momenta，一个自动驾驶公司实习，他们在我们宿舍楼下打很多广告。
当时做的是 CV 这个方向，做小模型，主要为了能更加快速的去识别一些车道线等等，所以要把模型做的更小，更快。
知危：当时 CV 这个赛道很火。
师天麾：对，而且自动驾驶也很火，公司又在学校门口，当时人也不多，CEO 的桌子离我就五六米。
但是当时做一阵子就感觉它有点像搭积木，试一试这个效果好不好，不好的话换一个试一试，感觉可解释性不够强，有点像黑盒，好或差，我不是能特别好的控制，更凭经验。
当然也是我水平有限，经验不够，但确实即使是做的还可以，给我的正反馈也不够多，所以我觉得这个事可能不太适合我。
实习了大半年，回学校开始接触高性能计算导论这门课。我在学竞赛的时候就喜欢把代码写得特别快，当时除了正确之外，还有性能的要求，你必须在几秒钟之内，能把这个答案输出出来，不然超时了就是零分。
我们当时做题的时候还有网站，每道题通过的人会有一个时间排名，刷这个榜非常的刺激，天下武功唯快不破。我觉得这个事比较有意思，上高性能计算导论的课我成绩也是特别靠前，觉得这个还蛮有成就感的。
再之后进入商汤去他们的 HPC 部门实习，他们在端侧的 HPC ，高性能计算这块能力非常顶尖，我觉得还是蛮开心的，主要在 ARM 上做一些推理的优化，写非常底层的代码，想办法抠指令来让程序运行的更快，推理速度更快。
又实习一段时间之后，感觉理论基础还是不够，遇到一个问题，可能 metor（ 导师 ）会给我指一个大方向，我可以往这个大方向去做，但是如果没有 mentor，让我自己来决定怎么优化，还是没有一个很好的系统性思维，所以就决定读博。来到了翟季冬教授的实验室。
知危：读博这 5 年是一个什么状态？
师天麾：其实一开始压力会特别大，因为我们这个方向在打贸易战之前，是又苦又累，发论文也不太好发，工作毕业之后的工资也不高，因为实在太难了，又卡脖子。
相比于 AI ，系统和高性能计算的会议非常少，那你能发表论文的概率也会很小，正常毕业能有个一两篇的国际顶级会议的论文已经不错了。所以一开始压力就很大，走路也在想怎么发论文，吃饭洗漱也在想论文该怎么做。
但是当时也是比较顺，博一上半年带着两三个非常优秀的清华的本科生做课题，但是到 19 年寒假，正好碰上疫情了，后半年居家，反而有一个好处，非常安静，我特别喜欢半夜想系统，想论文该怎么写，然后当时到四五月份，论文就写的差不多了，就投稿，运气不错，一次就中了。
知危：博一是吗？
师天麾：对，就中了高性能计算领域，国际非常知名的顶级会叫 SC，至少不会太愁毕业了，压力就会小很多。
其实我博士一开始的研究方向跟 AI 关系没那么大，是做图挖掘，比如说银行转账，每个账号你可以看作是一个点，每一次转账，你就看作是两个点之间连的一条边，一个有向边。这时候整个转账会形成一个很大的图，图里的一些特征是有意义的，比如说一个圈来回转账，就可能是在洗钱，套现，是有一定模式的，专家会给出一些模式，比如说几个点组成的环，或者组成的某种形状。
我的任务是用最快的速度把在几亿条边，几十亿条边，甚至更大的图里，把所有符合这个模式的样例全部找出来。如果你慢了，在真实世界里，钱就已经出去了。
知危：其实它的应用在现实生活还是很重要。
师天麾：对，一个是金融领域，还有就是物制药，因为 DNA 的分子结构也是这种点和边的形式，还有一些社交网络的关系推荐都会用到。
知危：所以你博一发完论文之后，有四年的时间去真正的去想自己未来要做什么。
师天麾：其实一直在想，跟发论文没有关系，发论文只是让我的博士压力小一点。应该说发了论文之后，我在想的是，我发的这玩意到底有什么用？全世界研究这个方向的人都用这个数据集，大家就比赛，谁的速度快，谁的系统写的好。
我在想这么个问题，我的工作给社会创造了哪些价值？在人类某块知识上突破了一下？人类的认知边界突破了一点点？后来有一个机会是跟蚂蚁合作，真的把我的这套系统用在了他们的金融风控体系里，我觉得还挺有成就感的。
所以这件事促使我觉得，还是更希望把所学的知识用到工业界里，来看一看，我做的东西到底能给社会能直接的带来哪些影响？而不是仅仅去做学术，虽然做学术也非常有价值，但是对我带来正反馈来说，感觉没有在工业界做些事情正反馈来的多。
知危：真正决定创业是一个什么样的契机？
师天麾：博三博四左右，当时和一个前辈聊天，他说怎么选这个事，其实是看你 10 年之后，20 年之后想当一个什么样的人？在做什么样的事情？我当时想一想，因为无论是本科还是博士，我都有经历实习，感觉那样当螺丝钉还不是特别有趣，当时想着去了也很可能是去大厂拿一个 title， 过个两三年，顶着 title 再出来创业。
当时就想我之后肯定是要创业的，只是时间点和机会的问题。但正好在博士四年级快结束的时候，团队包括老师、师兄就开始聊，要不要出来创业？因为确实是时间点到了，我们技术又是很稀缺的，还是创业要趁早，趁现在自己没有那么身心俱疲。
知危：当时的初创团队大概是一个什么样的组成？
师天麾：最开始的时候其实人不多，老师（ 翟季冬 ）是首席科学家，加上现在的 CEO、 COO，然后我的几位同届或低一届的博士，虽然人不多，但是众星云集，人才密度非常高。
知危：你们给这个公司起名字的时候非常有意思，全称解释就是“ 清华的程序员很聪明 ”，我当时看到这个的时候，还以为这是一个假新闻。
师天麾：取名字很重要，就是能让人记住你。当时我们在会议室里讨论一两个晚上，一开始想好的名字发现被注册了，第二个就是清程极智，前两个字朗朗上口，然后极是追求，智是就跟人工智能相关，决定好之后，我突然一拍脑，觉得也可以解释为清华程序员非常聪明，感觉有点调侃的意味，还蛮有趣的。
有了这个名字，我们才想到了这个点，不是特地为了这个点去取的这个名字。
知危：那个时候，清华这个标签的帮助有多大？
师天麾：之前就是一些比较火的大模型公司很多是清华系的比如说智谱、面壁，我们顶着清华的 title， 确实像融资，包括招聘会比较顺利一些，得到一些合作帮助也会多一些。
而且这些公司都聚集在五道口，清华门口那个十字路口就被称为中国 AI 的十字路口，所以我觉得帮助还挺多。
知危：那个时候你们的主要产品是八卦炉？
师天麾：对，其实最开始的时候是八卦炉，21 年我们在学校里就开始做了，跟唐杰老师，在中国当时最新一代超算，纯国产的服务器上面做大规模的训练，大语言模型训练，其实当时 GPT 没有那么火，我们就负责怎么把这么大规模的国产服务器用的好。
这个算是技术成果转化，并且我们刚开始创业的时候做模型训练的还是比较多，应用还没有特别好落地，推理需求还没有那么多，我们又恰好有现成的东西。
那时候其实也不是那么需要找客户，因为大家都知道，模型公司、芯片公司会来找我们来合作。
知危：所以其实你们起步还是蛮顺的。
师天麾：对，还算比较顺，只是要去思考后续的一些商业化，团队的事情，技术本身是还是能打的。
知危：你们成立是 23 年年底，24 年的 3 月就完成第一笔融资了。这个时候你们对于公司未来的技术路径，或者是商业模式，有比较清晰的一个想法了吗？
师天麾：其实当时想的核心还是训练，推理，因为 infra 这个东西其实很实在，就看跑的有多快，你跑的越快越省钱。最后如果能把你的技术量化，就是能给哪家公司省多少钱，或者挣多少钱，价值是很明显的。
那这时候商业模式要么是卖软件 license，或者说分成分润，但其实最核心的还是把技术做好，这些事情就会水到渠成。
知危：那个时候，用户用了你们的八卦炉之后，整个降本大概是一个什么样子？
师天麾：有案例，应该是有将近 50%以上。
知危：然后就到了 2025 年， DeepSeek 就爆火了，是不是这个时候大众才可能真正的意识到，好像 AI Infra 是一个比较重要的领域了。
师天麾：其实 Infra 这个事对于大众来说还是过于抽象了，可能投资人或者行业内的一些朋友会更加意识到它意味着什么。当时 DeepSeek 搞了一个开源周，大家就看到这个确实厉害，能通过软件技术，在自己的这个集群上把成本降下来。
所以我们 23 年、24 年去融资的时候，一个现象是我们得给投资人讲什么是 AI infra， 而且很多讲完之后其实也没太听懂。但是到了 25 年的时候，投资人都知道这是什么事情了，开始主动的来看这个赛道。
知危：你们当时为企业做 DeepSeek 的私有化部署，赚了不少钱？是先有赤兔这个推理引擎，还是说先帮他们部署私有化，还是说是同步进行的？
师天麾：对，赚了些钱，而且是先有推理引擎，这个其实就是 23 年就开始做了。只是在 25 年的时候， DeepSeek 出来，要针对 DeepSeek 去做一些优化，进行适配。
其中最简单的一个用户需求就是各个企业要开始用 DeepSeek，只是做部署这个事，有不少公司都声称自己可以做，所以我们就在找自己的特色，当时我们发现很多公司既有一些英伟达的老显卡，也有一些国产显卡，而 DeepSeek 这个模型，它的原生精度是 FP8，八比特的浮点数。但是英伟达的老卡和一些国产显卡不支持 FP8，要么是 int 8，要么是 BF 16。如果你想要体验到好的效果，那在这个卡上只能用 BF16，相对于原生的 8 比特，多了一倍的显存。
举一个例子，当时如果是买比较热门的国产显卡，需要买 4 台服务器才能勉强运行起来 DeepSeek，一台服务器 100 多万，你光在本地的环境用你的数据试一把，500 万起，实在是太贵了。
而且正好过年，很多公司在去年是没有这个预算的，有些预算又不好改，一些公司想做 AI 转型，老板批了一笔钱，那这个事没成怎么办？企业内压力非常大，我们找到这个需求之后呢，做了一套软件方案——让不支持 FP8 的硬件能跑 FP8，甚至能跑 FP4。FP8 相比 BF16 省一半显存，而 FP4 精度损失极小，效果甚至优于INT8，如果用 FP4，相比 BF16 能省 75% 的显存，原来 4 台服务器变成 1 台，成本一下降到了四分之一。
这个成本降低太多了，非常方便大家花一些小的成本，在自己的本地私有化场景来验证用 DeepSeek 进行降本增效。
知危：这个是因为智兔推理引擎它带来的优势吗？
师天麾：对，你用其他的推理引擎还真没这个特色。
知危：当时市面上有像 vLLM 或者 SGlang这些，其实好像也可以达到所谓的提效的一个这样效果？
师天麾：首先它肯定是没有这个支持跑 FP8 ，FP4 这个特色的，而且它在国产显卡上也没有原生支持，英伟达老显卡上，它的性能也比较有限啊。
一个是能不能用的事，一个是好不好用的事，这两个还差挺多的，用 vLLM，SGlang 在英伟达的卡上，肯定还是能跑起来的，但是想让它性能特别高，这就不好讲。
知危：当客户主要是哪些行业呢？
师天麾：最开始基本就是模型公司、芯片公司，DeepSeek 之后，比如能源行业，石油石化，金融行业都有合作，还有一些自持算力的公司，数据中心。
知危：当刚才提到可以让不支持 FP8 的硬件能跑 FP8，甚至能跑 FP4，这种适配只通过纯软件的方式，在技术上实现有多难？
师天麾：其实这个就需要涉及到一些底层的指令了，需要对整个推理，包括对体系结构的指令有比较深入的了解，我觉得还是有一些门槛的，至少当时 vLLM，SGlang 这些不支持，其他的自研推理引擎不支持，我们支持。并且后来好多芯片公司找来了，希望这个技术也适配一下他们的显卡芯片。
知危：所以在多个芯片平台上做底层的指令转化的时候，会触碰到厂商的一些专利或者是知识的边界吗？还是说只要是基于 PyTorch 都没问题。
师天麾：两种情况，如果自发去做的话，用的就是厂商公开的一些接口，这个其实是没有问题的，我们不会通过一些方法做逆向或者 hack 底层的一些东西；另一种就合作，就是一事一议了，为了让我们能进行更深入优化，一些芯片企业，它给我们开放一些不对外开放的权限，这时候就是单独去签，比如哪些代码是涉及到不能对外的，就不能开源。
知危：所谓的推理引擎到底是什么？
师天麾：其实跟我最开始讲的那个有点像，推理引擎就是让模型真正在硬件上跑起来的软件层。硬件是一堆铁盒子，模型是一个文件，算法是抽象的数学逻辑——推理引擎把这些算法变成一行行真正执行的代码。
每一次 Token 的输出怎么处理、模型怎么运行，都是推理引擎的事。它不仅决定了效率、成本、稳定性，还决定了模型到底“聪不聪明”，同样的机器、同样的模型，不同的人部署出来，效果可以差很多，能把模型顺利部署好、发挥出原厂水平，这件事本身就有很高的技术门槛。
知危：25 年过年后，你们这行的竞争状况怎么样？
师天麾：其实那时候市场是相当混乱，一些愿意为之买单的人，很多都是不懂的。各种企业都会说，我是做私有化部署的，做 DeepSeek 一体机，甚至还老有人问我，直接发我一个 PPT， 说，施博士，这公司怎么样？我看了 PPT 上面写的什么“ 东半球 DeepSeek 推理第一 ”，我说这谁呀？很多企业就会吹得比较猛。
知危：那个时候，商业化是怎么样的？
师天麾：客户有两种选择，一种是连机器都没有，把需求提给我们，跑 DeepSeek 大概要多少并发？是要非国产化的，还是要国产化的？我给对方几个选择，这样可以把软件硬件一起包了。
要么就是有一些显卡，自己是真跑不起来，即使能跑起来，也出现各种问题，那来帮帮忙，就是买我们的赤兔推理引擎。老显卡重新用起来这种会多一点，因为他有硬件了，又用不起来，是真着急呀。
知危：那我当时也看到一个小的故事，其实就是你们的同行之间的一些小的争论。有一家老板就说，部署 DeepSeek 并且服务的 AI Infra 公司，它其实是亏钱的，这不是一个好的赚钱的模式。会有另一家的老板说，不是这样的，是你的你技术不行，当时有注意到这个事情吗？
师天麾：有，因为两位老板也都认识，也都是技术出身的博士。这两位其实都没有说错，这个事能不能挣钱重要，也和你的技术有关。
但有一个非常关键的事情是你的负载，机器如果跑满了，跑到负载的上限是可以挣钱的，跑到个百分之七八十，可能也可以挣钱，但如果你只跑 20%，那估计就要亏钱了。所以两位老师其实是争论的点是能把这个负载跑到什么程度？
当时 DeepSeek 公布自己是挣钱的，一个比较重要的点是，它太火爆了，大家使用它的负载会非常高，同时 DeepSeek 还有自己的训练需求，所以在晚上会把一部分机器拆去做训练，所以整体下来是可以挣钱的。
但是对于其他企业就不一定了，重要是看技术和需求，客户的需求量能不能把负载达到一个比较好高的水平。
知危：赤兔推理引擎是目前你们商业化最好的产品吗？
师天麾：也不能这么说，现在其他产品商业化也不错。之前八卦炉客户非常多，八卦炉现在有了另一项新使命，去做更全栈的智能软件，比如说一体机里会包更多的软件，开箱即用，这块商业化也不错。
知危：为什么会做一体机啊？好像常识来看，做硬件要比做软件利润要低很多。
师天麾：因为说软件还是有点抽象，你说有价值，但卖的时候该怎么卖？只做推理引擎，我也没有界面，展示的时候只能是，比如跟它对话，然后在黑色的命令行上往外吐字。
一体机是一个不错的包装形式，然后同时还能做定制，比如说部署推理引擎，同时帮企业做好一些管理，可视化的界面，包括企业内部需要的一些RAG ，Agent 。
知危：其实这个有点有点中国特色了？
师天麾：我不太清楚外国这个推理引擎是怎么卖的，外国的可能云用的会更多一些。中国资产的概念更重一些，所以买机器的需求还蛮多的，尤其一些国央企，金融企业都必须是私有化，买机器是更好的选择。
知危：你们怎么去跟潜在客户展示推理引擎的优势和能力呢？还是说先部署过去？
师天麾：其实一开始就是 PPT 交流一下，看看是不是对方需要的，需要那就给你测，拿数据说话。比如说同样 10 台机器，我能跑出来 15 台机器的性能，这个省了多少钱是可以算出来的。
知危：所以和国央企打交道容易吗？
师天麾：我的经验来看，还好，就是流程长一点，因为他们那些显卡用不起来才是大问题，我们真能帮人家解决这个问题，而且这个事能干的人不多，他们真的需要我们。
从创业之初，除了英伟达显卡之外，我们也拿很大的精力和投入放在国产显卡这块，所以国产显卡做的也不错，他们的需求我们能比较好的满足，所以合作起来还是比较顺的。
知危：之前跟一个基于 AI 的 SaaS 的朋友聊天，他说遇到最大的问题其实是大家可能不在一个语言体系沟通。
师天麾：如果去做销售的话，还是要站在客户的视角来看这个事情，就不要自说自话了，因为你技术好不好，人家说实在真的不感兴趣，人就看你到底给省多少钱或挣多少钱，这是最实在的，钱是最实在的。
知危：你们行业最近提的 MaaS模式，就是模型即服务，这个怎么理解？
师天麾：现在应该换个说法，叫它 token 的服务了，就是我直接卖你 token。你也不用管我给你背后用什么硬件，这个推理到底是怎么部署，成本是什么样的，就直接用模型，所以是模型即服务。
知危：有点像傻瓜式相机，我不需要理解后面有很多的东西，只要用就好了。
师天麾：对，你买的就是这个模型的效果，为这个效果付费，现在是为 token 付费。
知危：2025 年其实也是一个很重要的一年，你们半年就融资两次，这是资方找过来的，还是说你们要去主动去找？
师天麾：最开始，24 年是属于我们主动去找，给人解释什么是 AI infra， 25年就变成，大家看到这个 DeepSeek 的 infra 技术之后，发现它真的很有价值，会主动来找我们，所以两轮融资很快也很顺。
再到今年，变成了 Token 火了，因为硬件该上市的上市，准备上市的准备上市，没上市的估值也很高，投不是那么好投。但最终 Token 的成本，是一个软件加硬件的事，软件又能降低 token 的成本，那资本更多的关注点就到AI infra了。
知危：很神奇，可能在一年，不到一年的时间里头，资本对这个行业的认知就发生了翻天覆地变化。
师天麾：对，其实是跟这推理降本的需求来的，只能说推理需求的增长太快了，成本太高的话，是不太适合在千行百业落地的，一定要把成本打下来，才更方便去落地。
知危：去年九月你们也推了一个新的产品，叫 AI Ping。当时是内测，然后今年1 月开始正式发布。
师天麾：对，当时算是公测，今年正式发布，其实是对 MaaS 服务商或者 token 服务商的服务质量的评测，加上智能路由。
做这个产品是因为去年 deepseek火了之后， MaaS 也火了一段时间，这些有硬件的企业，做云的企业，都会做一个 MaaS 平台，但 MaaS 有一个特色就是它是黑盒的，你直接为 token 付费，或为效果付费。这时候问题就出来了，你不知道的这些部分可能要出问题。
刚才我也提到推理的部署，同样的硬件，同样的模型，不同人部署出来效果可能不一样，但是它都叫 “ DeepSeek ”，它标价都看着都差不多，但你花的钱一样，买到了不一样的效果。
效果是一方面，服务质量也有待商榷，我们当时测，小的都不说了，就说互联网大厂，运营商这些特别知名的企业，他们接入的 DeepSeek，同样的价格，性能可以差 5 倍以上。
而且中小企业，不太可能把几十家测完，然后选一个合适的，它也不是测一次性测完就完事，它的服务质量是在波动的，你现在用的可以，过会可能就不行了。
我们这个产品的一个特色就是会把这几十家大的平台全放到这里，他们上线的热门模型全上架，六七百个模型，二三十个服务商，7×24 小时不间断评测。
在首页上你就可以看到 7 天内，热门模型，各家服务商的服务质量的排名情况，在模型的详情界面可以看到，单个服务指标的波动情况。
知危：我看了一下网站，看到了不同的 API 的延迟、稳定性、吞吐这些关键指标，技术上其实容易测的，因为指标比较明确，但是所谓的效果怎么测呢？比如说同一个模型可能在不同服务商的效果的差异。
师天麾：跑一些数据集，跑 bench mark，比如说一个模型新发布的时候会宣传，又在哪个榜单跑到世界第一，或者开源世界第一了，这个其实就是跑数据集。比如说 DeepSeek， 你是用原版的，还是用了非常激进的，比如 INT4 的量化，这个效果会差很多，跑数据集就能跑出来。
当然有的是一些学术里的数据集，也有一些或者是我们内部私有的数据集，包括你的性能怎么测，延迟、吞吐、可靠性、缓存命中率，怎么测是合理的，包括效果怎么测是有意义的，我们有一套自己的方法。
知危：这个项目是什么时候开始做的？
师天麾：去年中旬，我们就觉得 MaaS 这个市场黑盒，又火又有点乱，需要来测一测，帮大家来做一下筛选，同时测完之后呢，我们还做智能路由的调度，因为对于消费者来说，其实要的不是说我就要厂商 A 的 DeepSeek，也不是说我要厂商 B 的 DeepSeek，要的是效果好的 DeepSeek，你这个厂商叫什么名字，消费者并不关心。
所以我们可以根据评测结果自动的帮你选该用哪一家。对于个人或者中小企业来说，没有很好的一个资源池，你要跟大客户一起去抢资源，那这时候你的质量是没有保障的，动不动延迟就飙升到几十秒、几百秒。
首先我们有评测数据，同时大量用户也在调用我们，我们也知道这个用户的请求发过去之后，返回需要多长时间，所以我们了解当前时间点,谁比较繁忙，谁没有那么繁忙，质量还不错，就可以帮用户来做这个选择。
知危：是不是有点像国外的 Openrouter？
师天麾：对，但是我觉得国内外不太一样的点是，Openrouter 上最大的特色还是能用一些国外模型。但是国外模型它是闭源的，其实各家效果会有一点区别，但效果差不多，他们稳定性还算不错，你的路由选择没有那么多。
但是国内不一样，所以我们可能会更加注重评测，或者并且评测难度会更高，通过路由做这个效果优化，性价比上的优化，性能稳定性的优化。因为理论上可选择的东西越多，你的天花板就越高，我们就需要通过评测和路由能力来决定我们能摸到这个天花板的高度。
知危：因为 Openrouter 的商业模式是直通定价，会有一些加价的空间，AI Ping的商业模式是什么？ 评测本身其实是免费的，每个普通用户只要登上都能看到，其实商业化的还是在路由这边？
师天麾：对，其实企业做大规模采购的时候有采购价的，我们不是按原价来采购，所以说我们买的是更便宜的，然后卖给其他客户，就有这个加价的空间。
当然不会加价很多，但是我们的智能路由它是有价值的，客户也愿意为这个价值付费。直接一点，对于客户来说，我们就是一个卖 token 的，我们作为 token 的提供商。
知危：如果路由出错，比如说可能判断错了，给客户推了一个成本更低，但是效果也更差的模型，这个回溯会可解释吗？
师天麾：在我们的后台，会告诉你这一条我路由给了谁，你花了多少钱，输入输出 token 是多少，无论是在后台查，还是在你的返回信息里查，是有这个字段的，每一条都可追溯。
其实目前主要是用户选好模型之后，我们帮你去做这个服务商的路由，明显差效果差的服务商都进不了我这个供应商名单，我可能做评测，但是不会给他真实的调用。
知危：其实现在市场还挺分裂的， DeepSeek 在疯狂降价，智谱，腾讯在涨价，但是中国的模型好像普遍都要比国外的模型便宜很多，这说明了什么？还是说市场还在混沌期，各家策略不同。
师天麾：从我们评测这块来观察，今年明显会比去年服务质量变差了，同时价格还更贵了，因为需求量涨太快了，token 的需求涨得实在太快了，尤其是随着 OpenClaw 龙虾这一波之后，供不应求，就是会涨价，就是会服务质量变差。
我觉得主要是用国产模型这波人和用国外模型的不一样，国外要特别好效果的，还是会用国外的模型，除非有非常大的降本需求，所以如果去看国外模型的话，他们定价又差不多了，比如说 GPT ， Claude，都很贵。
国内模型这一圈，定价会差不多，大家都在自己的市场里相互去竞争，现在其实 token 出海是真的蛮有机会的，因为中国的模型就是便宜，国外有很多企业就是要用便宜的模型，这时候国产的模型性价比是真可以。
知危：是的，前几天 Openrouter 公布了个数据，他们的平台上用中国模型的海外用户比例急剧上升，便宜，百万可能都不到一美元。
师天麾：就是性价比高，我之前也会跟一些客户，说做 AI 转型，可以直接去体验最好的模型，因为最好的模型就是能告诉你，现在这个方向，这个场景里，全世界最好的效果大概能做成什么样？如果最好的效果都无法满足你，那就再等等吧，先别考虑 AI 转型了。
如果你能满足了，那接下来在大规模去落地的时候，要去考虑成本，这时候你就考虑能不能用效果差一点点，模型小一点点的，但是便宜特别多的模型，来给实现明显的降本，同时效果可以接受。
知危：我想到刚才 AI Ping这样类似的产品，国内会不会有同行也这么做？或者有些大客户会倾向于自己建一个测评的体系？
师天麾：海外 OpenRouter 有这么做，但其实两个不太一样的市场，国内，目前这样做的还是比较少的。
知危：硅基流动？
师天麾：我们平台更多的还是做评测，采购第三方的 token，所以说国内像我们这样的平台有点少，你还要有一些背书，就是你凭什么能做这个事情？凭什么要相信你？
投资人爱问一个问题，这个事如果火山做了怎么办？阿里做怎么办？这个事他们确实可能不方便做，他们都部署 DeepSeek，他们也不太方便评价和竞争对手谁做的好，因为一定是自己做的好。
我们可以作为一个中立的第三方做这个测评。
其实还真有人提过，能不能在我们平台上打广告？但正好他还是一个国产芯片厂商，我就说算了，这个不太不太合适，就算买这个广告，也不会提升排名的。这是一个品牌的事情，公信力没了，这个评测就没有价值，这是一个长期的事情，赚一波快钱不太符合我们公司的风格。
知危：接下来可以聊聊所谓的竞争了。其实从一个周期来看，好像芯片厂商和你们是在一个利益链条上的，包括所有的 AI infra 企业，他们是你们的上游，但是他们也会做自己的适配，也有自己的软件栈，这个微妙的关系怎么看？外界好像会觉得，你们是在一个窗口期去发展的，但是这个窗口期不取决于你们做的有多好，而取决于他们的觉醒的时间有多长。
师天麾：这是一个好问题。国外，英伟达这块市占率可以说头一号，他算比较成熟了吧，但可以看一看国外的 AI Infrar 公司是什么样子，或者说国内外买了英伟达显卡，部署了英伟达集群的人，他们用的是谁的软件？现在用英伟达的推理引擎的人是不多的，更多人是用 vLLM 和 SGLang。芯片企业更擅长做一些是很底层的事，比如说一些指令集，算子层的一些东西，他不对外开放，这个就必须得自己好好优化。
但是更偏上层，比如说推理引擎，甚至更上层的内容，目前来看大部分还是一些移植性的工作，比如说把国外的 vLLM 和 SGLang 移植到自己的芯片上，先不说这个到底适不适合，性能多高，但至少先适配上，因为客户在用，但是再上层的调优，做的就会少一些，我们会更擅长这块。
我们和芯片企业合作的时候，也会有一些合作方式是他们去做非常底层的一些算子，不对外开放的东西，我们去做推理引擎优化，各种并行方式的优化，所以说即使是英伟达这种发展到相对比较成熟的企业，它的开放程度依然很高，我觉得国产化之后也会类似这样，术业有专攻。
知危：所以他们不做这个，是因为他们没能力做，还是说觉得做这个的收益不够高？
师天麾：还是那句话，术业有专攻，软件的顶尖人才就这些，当然芯片厂商会有，大厂也会有， AI Infer 公司也会有，可以什么都自己做，但是也可以选择更包容开放的合作，那目前来看，大家是一个开放合作的态度，你不开放合作，就要做好一己之力对抗全世界的准备。
知危：再往远走的话，会不会有一些关键的中间层的技术，可能会走向某个标准化，从而压缩优化软件的空间？
师天麾：其实要看哪个中间层了，比如驱动，肯定是人家自己做，但是编译器，推理引擎不一定，无论是编译器还是推理引擎，本质上都是软件，之前我的老师说过一句话，我们一般管自己叫做系统的人，他说做系统的机会在哪里？要么是上层系统的上层，就是算法和应用有新的东西出来，要么是底层硬件有新的东西出来。
只要上下两层，算法应用和硬件任意层出来新东西，中间系统层就可以去做优化，把性能做得更好。但如果你说的标准化是上下两层都没什么变化了，那中间这层可能确实机会会变少。但这个可能很小，相当于说AI 发展不动，下层硬件迭代到头了。
摩尔定律到头这个问题都说了多少年了，但依然有新的更高集成度的芯片在出现，同时还有其他方式的芯片在出现，所以创新是永无止境的。
知危：我们再把清程极智放到整个国内 AI infra 的行业的竞争里面去看，有很多同行都在做类似的事情，可能路径不同，但是目标都是降本增效。你们的独特的定位或者是特色是什么？
师天麾：首先 infra ，基础设施这个事其实不太性感，不像应用或者 AGI 一样讲出来非常 fancy，非常花哨的故事，它就是扎扎实实地把优化这个事做好，就跟国家电网似的，好好把电力给搞稳定了，不要出问题，万一出点问题，立马修复，这就是基础设施做的事情，所以本质上不会说哪家特别大区别。
我们现在至少从产品上不太一样的地方，就是我们既在 Token 这一层做生产，同时我们在 Token 这一层做流通，就是 AI Ping 这一层来做评测，在现在这个混乱的市场，黑盒的 Token 形式上，我觉得这个还是相当有价值的。另外从技术栈上来看，我们是非常全栈的，硬件之上我们全有。
知危：这行到最后会出现赢家通吃的局面吗？我看到一个评论，这行可能会像早年的集成电路体系或者是操作系统一样，最后是赢家通吃的一个局面。
师天麾：我觉得能否赢家通吃，要看一个点，新杀出来的人，相比于老的产品，能不能做出优势？只要能做出优势，做得更快，那就有人愿意为此买单。
这和另一个问题相似，之前有人会问我为什么不用vLLM，SGLang做产品？人家有现成的，你为什么不直接在它上面改？因为我们能向之前的发起挑战，vLLM，SGLang 适配，本身是为英伟达而生的，它不是为国产显卡而生的，国产显卡和英伟达体系结构是不一样的。
之前我们另一位联创唐适之博士，他做过一个比喻，就说老外爱吃面包，他们家家户户买烤箱，烤箱是为烤面包而生的，中国人喜欢吃包子、饺子、馒头，拿这个烤箱能不能来蒸馒头？
如果你是一位技术大拿，改改也许行，但是你换个蒸锅，又便宜又好用。所以你把人家东西拿过来，放在自己这套上，也许也能用，但大概不是最好的，尤其它为了兼容之前的一些东西有一堆很冗杂的代码，不方便去删，还不如丢掉历史的包袱，自己重写一套。
现在无论芯片还是推理引擎，都在追求通用性——什么场景都能跑，什么模型都适配。但随着AI在各行各业真正落地，降本的压力会让行业从通用走向专用：专用的芯片（ RISC-V、FPGA ）、专用的算法（ 蒸馏出来的行业小模型 ）、专用的推理引擎。既然我已经知道要跑什么模型，就能做更激进、更针对的优化，这些都是新玩家更擅长的事，也是未来最大的机会所在。
知危：之前有个朋友跟我聊，其实这行挺难做的，你要足够敏捷，因为你是要跟着需求去做的，其实是有一点被动的。
师天麾：我觉得这个不叫难做，首先我们就是要解决需求，就要做有价值的事，如果我不解决需求还能卖得出去，那我不成奢侈品了。
如果别人说，清程极智这家公司非常敏捷，跟需求跟的非常快，我会非常开心，这不是什么坏事情。
知危：创业这段时间，公司有没有过决策失误的时候？
师天麾：有些失误很难讲。你回头来看，当初选择是不是最对的选择？可能不是。但是在当下那个节点，不知道未来会发生什么的时候，再做一次选择可能还是那样。
比如说24年的时候，我们有八卦炉产品，模型公司，芯片公司，国产显卡公司直接拿着单子来找我们，钱都直接给过来，你说项目做不做？肯定要做啊，技术又是现成的，又能跟大公司达成良好合作，做好案例，又能挣钱。
但是都知道推理一定要爆发，只是你不知道什么时候爆发，那这时候要把更多人力投在确定赚钱的产品，还是投在未来一定是主流，但是未来不知道是哪一年上，这个就很难讲。结果是一年之后 DeepSeek火了，当时如果去把更多精力投在推理上，也许会有更好的机会。
知危：你们在 23，24 年的时候已经意识到推理会爆发？
师天麾：对，是有部分团队在做推理的，但是人才还是有限的，我们也会放很多精力在编译和训练上，当然编译是通用的，训练，推理都可以用到。如果你让我现在回头看，反正就差一年就到推理了，我们钱又非常多，那直接 all in 推理，也许这就是最好的选择。
不过那要是能做成这样，我能回溯的话，不如每天买涨停的股票不就完事了哈哈。
知危：现在大概员工有多少人？
师天麾：全职和实习加起来也一百多人了，北京、上海、深圳都有办公室。
要不顺便来打个广告，北京办公室就是在清华门口，搜狐网络大厦我们有一层，这是总部；上海部门在西岸，人也很多，发展也很快；深圳部门在后海，而且是海景办公室，环境特别好，欢迎大家加入我们。
知危：HC量大，全站缺人，是吧？
师天麾：对对对，钱也够，融资也很顺，扩张也算比较快。并且我们不会唯学历论，比如我的 0 号实习生，他是二本的，但是确实是水平太高了，我们几位高管对他的评价都非常好。
他就很极客，从高中就开始研究代码，大二来我这实习，然后现在马上毕业了，前两天旅行去了，我天天问他什么时候回来？昨天告诉我旅行结束了，我可开心了。
知危：其实你们几个联创其实都是师兄弟这样的关系，优势可能是你们很熟，技术都很强，感情也很好。但是会不会有出现分歧的时候？是怎么解决的？
师天麾：虽然是师兄弟，但也还是一家公司，公司就是决策就是要有老板来拍板，没有人能决定，这样是不行的，大家都可以发表自己建议，但最后还是老板要去拍板，他要有这个责任，当然我们也相信他有这个能力，因为没有绝对正确和绝对错误的想法，老板要更综合的去考虑，大家都是聪明人。
知危：所以像这样一家人才密度很高的公司，它的一个管理模式是怎么样子的？其实有很多初创公司，它很飞，有的公司没有 KPI、 OKR ，然后大家都是辩论决策。
师天麾：其实我没有待过大厂，最多也只是实习，没有正式员工那种感受。但是我们会招很多大厂来的人，甚至有不少同学愿意降薪来，他们的反馈就是，不用内耗了，不用搞各种上下级关系，沟通和决策都非常快。
其实决策这块，我非常希望的一个方式是，如果你掌握了足够多的信息，这块事你就直接负责了。看他的思维以及做决策所需要的信息是不是一致的，咱俩都是聪明人，我觉得做的决策是差不多的，到时候小的事也不用告诉我，重要的决策就通知我一声也可以，这样我就省事了，就是要发挥大家的主观能动性，这样公司才能更高效运转转起来，别反馈来反馈去。
知危：你是敢放权的，是吗？
师天麾：对啊，因为事太多了，不可能去关心每一件小事。创业公司一个很大特色就是，谁行谁上，你只要有本事，你聪明，你有能力，有责任心，沟通也可以，有一定管理能力，那你就帮我把这个事分出去，太好了，真的谢谢你。
知危：你现在的整个的工作重心在哪里？
师天麾：我经常开玩笑说我是清程的管培生，除了财务、法务、融资没太轮过，其他岗位都轮过一遍了。最开始的时候，人很少，带着做研发，做 demo，另外很重要一个事就是招人；后来团队起来之后，我自己去盯技术时间就少一些，那就是来做产品。
DeepSeek 火了之后，我们当时没有正式销售，我就作为销售去跑市场，去见客户，参加各种各样的行业大会，讲 PP T逐渐闭着眼睛熟能生巧。目前我们的销售团队也搭建起来了，有行业的老炮来带着整个团队。
现在是理论上我还是产品副总裁，更多负责产品，但是因为商业化这种事情，尤其是AI ping 这个新产品，最后还是要有产出，所以现在也有很多时间放在售前的沟通上。
知危：你是一个适应性很强的人，你会适应各种不一样的变化，对于很多的技术人才来说，他可能会对于和人沟通，甚至去做销售，会很排斥。
师天麾：完全没有，我觉得能让我学新东西，这是很宝贵的机会。如果真是去大厂，很难有额外的学习机会，人家付你这个工资，就是冲着你会的东西来的，因为我值钱的点就在技术上。
但是我现在创业有了锻炼的机会，这些机会都是非常难得的。哪有一种岗位既能当产品经理，还能做销售，做产品，做营销？
知危：你是 I 人还是 E 人？
师天麾：之前一直觉得我是 I 人，但博士期间又感觉可能有点 E 了，因为实在的平时都在学校里憋着，看论文，写论文，写代码，健身，都是一个人。到周末的时候，我是真想跟人出去喝点酒，打打德扑，聊聊天，我就算不说话，我在那听着大家说话，也蛮开心的，这应该算是一种 E 人的表现吧。
但是现在呢，无论是跟客户还是跟技术交流，包括咱们现在坐在这，都在说话，一到周末我就想在家躺着，那这是不是又算 i 人了？
知危：对于你来说，这几年创业最大感受是什么？
师天麾：就是不断的学习，而且这是一个团队的事情，因为在此之前的所有时间，无论做什么都是我一个人的事，我只要厉害，就可以做出来好成果。
就像发论文之前赶 deadline，我 5 天就睡了十来个小时。但是现在不一样，我付出再多，我也只是一个人，所以就是要想办法怎么让公司更加高效的运转，让公司在正确的道路上越走越远。
公司就很复杂了，技术是一方面，甚至技术是不是最核心，能不能占到50%的比例都不一定了，其他都相当关键，研发、品牌、销售、战略、融资，这些都特别关键啊，不能有短板，掉一环，这公司可能就要出大问题。
但是好在就是创业公司，拉一堆志同道合的高手，来一起干一件有意思的事，虽然我不懂，但是他们懂，我可以向他们学习。
就像我的微信头像，斧头帮老大，这就叫专业，我就喜欢跟专业的人一起共事。
知危：你也太谦虚了
师天麾：完全没有，因为人家就是专业，学完就是有很明显的成长，他们的决策大概率是比我对的。
知危：还有一个问题想要问的，因为很多考上清北的同学，在进入了一个更厉害的团队，或者班级的时候，他会发现原来好像自己也没那么强，总会有这种时刻吧？怎么去面对这种所谓带引号的平庸？
师天麾：其实这个事太正常了，我给你讲一个更夸张的。我从小学开始编程，然后初一开始正儿八经训练，然后到高二保送，我有一个低一届的学弟，他之前完全没有学过，高一的时候才开始学，平时打打游戏，跟我们玩一玩，也没有怎么认真在学，每次集训成绩都非常好，高一就金牌保送，成绩还特别高，这种天才见太多了。
你说他多努力呢，没看出来，凭啥呢？就凭人家有天赋，我都习惯了这种事情，我对自己的定位一直是，我不是最聪明的那帮人，但是我挺仔细的，我很认真，就做什么事我都会尽量认真努力的去做。
我觉得习惯就好，你无论再优秀，各方面再强，你总能找到一个比你长得更帅、比你更聪明、比你更努力、情商还比你高、各方面都比你强的人，你一定能找出来这样的人。所以差不多就行了，做自己喜欢的就好。
知危：问一个老生常谈但是应景的问题吧，你觉得天赋和努力哪个更重要？在现在这个社会。
师天麾：首先天赋一定非常重要，我觉得这个事非常有意思，它就像硬件和软件的关系。硬件决定了天花板，软件决定了你能摸高摸到多少，天赋可能决定了你的天花板，但是你通过努力虽然不能成为职业球员，但还是可以在系队混一混的。
知危：如果现在回到 2023 年底的那个冬天，你还会做同样的决定吗？
师天麾：会啊，我非常庆幸我选择了创业，因为确实成长太快了，这种机会是别的地方得不到的。
知危：最后一个问题，你觉得清程极智未来会发展成一个什么样的公司？
师天麾：我希望我们成为国产化里不可替代的一环，Infrar 这一层是不可或缺的，我们应该占有非常重要的一个地位。
另外我不太确定这个 token 的形式，因为大家现在说它是 AI 时代的水电，但是过5 年、10 年，它是不是一个非常好的形式，但至少从一些应用层来说，我们把 token 卖给应用层，这个逻辑是不太会变的，应用层再去卖效果给一些终端的用户。
所以至少在 token 这一块，我们希望能通过赤兔更高效的生产 token， 通过 AI ping 能提供更高性价比、更高稳定性的 token。
我其实不希望公司过于快速的扩张，这样在管理上容易出问题，而且影响大家的体验，如果目前这种敏捷，快速高效的风格出现偏移，我会觉得会非常对不起当时信任清程极智的这些同学。
另外就是，保持人才密度，向 DeepSeek 学习。
（ 访谈全文完 ）
撰文：Rick
编辑：大饼
设计：焕妍