清华系创企清程极智开源大模型推理引擎“赤兔Chitu”

【清华系创企清程极智开源大模型推理引擎“赤兔Chitu”】金十数据3月14日讯，清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智联合宣布，开源大模型推理引擎“赤兔Chitu”，该引擎首次实现在非英伟达Hopper架构GPU及各类国产芯片上原生运行FP8精度模型。据此，本次开源的版本特别聚焦于当前市场最迫切的需求——将DeepSeek-R1 FP8精度模型无损且高效地部署在存量英伟达GPU上。团队表示，针对多款国产芯片特别优化的版本也将陆续开源。