给万卡国产芯装个“超级外挂”!清华团队要造最强国产Token工厂
联合华为昇腾,五年冲刺十万卡
杰西卡 发自 凹非寺 量子位 | 公众号 QbitAI
两年半,增长5000倍。
这是中国日均Token调用量的增长规模。2024年初,这一调用量还是1000亿; 到2026年6月时,已达到约500万亿。
Agent应用深入千行百业,模型能力不断突破,AI对算力的需求正在以前所未有的速 度扩张。
需求井喷之时,供给侧却面临另一番景象。
由于众所周知的外部环境,非国产先进算力供应的不确定性持续存在,国产芯片正加速走向 主场。市场研究机构TrendForce预测,2026年中国高端AI芯片市场中,国 产方案的出货份额将接近90%。
毋庸置疑的一点是,国芯国模,正在从重要的技术选择,成为中国AI产业必须掌握的基础 能力。
但这条主线上依然布满障碍。不同厂商的芯片对应不同的软件栈,模型适配与开发者生态仍 在完善;设备上架后难以匹配真实流量,算力利用率不足……
更深层的矛盾在于,供给侧按卡数、机柜和峰值算力衡量资源,需求侧却按照有效Toke n产出、响应速度和服务质量采购。
供需两端,说着两种不同的语言。
一家出身清华系的AI基础设施企业——清昴智能,正尝试成为这中间的“翻译官”。
11月17日,清昴联合华为昇腾生态及多家产业伙伴,正式发起昇腾950DT万卡级T oken工厂联合运营计划。
按照计划,清昴将以打造国内规模最大的独立国产Token工厂为目标,将分散、异构的 国产算力组织起来,通过RSI驱动的软件技术和运营体系,转化为可计量、可验收、稳定 交付的Token产能。