首页 AI新闻资讯 清华开源“赤兔 Chitu”推理引擎,加速国产AI生态崛起
发帖 回复

清华开源“赤兔 Chitu”推理引擎,加速国产AI生态崛起

本帖最后由 编辑 于19 天前编辑 只看Ta 楼主

近日,清华大学高性能计算研究所的翟季冬教授团队与清华系科创企业清程极智联合发布了一项重要成果 —— 开源大模型推理引擎“赤兔 Chitu”。这一技术的推出,标志着国内在AI领域的又一重大突破,尤其是在推理引擎的自主研发方面迈出了关键一步。

“赤兔 Chitu”引擎的核心优势在于其能够在非英伟达Hopper架构的GPU以及各类国产芯片上,原生支持FP8精度模型的运行。这一特性使得无论是使用进口芯片还是国产芯片的开发者,都能借助该引擎实现高效的AI模型推理。这一突破不仅为国产AI芯片的广泛应用铺平了道路,也为国内AI生态的建设提供了坚实的技术基础。

清程极智CEO汤雄超在发布会上指出,当前国内在推理引擎这一关键领域仍缺乏生产级的开源产品,而“赤兔 Chitu”的开源正是为了填补这一空白,助力国内AI生态的快速发展。通过开源,开发者和研究人员可以自由使用、修改和优化这一推理引擎,从而加速国内AI技术的迭代与创新。

在全球AI技术竞争日益激烈的背景下,清华团队的这一举措为国内企业提供了新的发展机遇。借助“赤兔 Chitu”推理引擎,企业能够更高效地开发出符合市场需求的AI产品,从而提升整体竞争力。此外,开源模式还将吸引更多开发者参与到AI技术的研发中,共同推动技术进步。

“赤兔 Chitu”的发布不仅是技术上的创新,更是推动国产AI产业链完善的重要一步。未来,期待更多企业和开发者能够利用这一工具,在AI的浪潮中乘风破浪,共同开创属于中国的AI新时代。

发帖