腾讯混元推出自研深度思考模型「T1」,正式开启智能新篇章
近日,腾讯正式发布了其自研的深度思考模型——混元T1正式版。
混元T1正式版基于大规模强化学习,针对数学、逻辑推理、科学和代码等理科领域进行了专项优化,显著提升了推理能力。在多个权威评测中,混元T1表现卓越。例如,在大语言模型评估增强数据集MMLU-PRO中,混元T1以87.2分的成绩位列第二,仅次于顶尖模型o1。同时,在CEval、AIME、Zebra Logic等中英文知识及竞赛级数学、逻辑推理的公开基准测试中,混元T1也展现了业界领先的推理水平。
腾讯最强!混元自研深度思考模型T1正式发布:响应迅速、性能卓越
除了强大的基础推理能力,混元T1正式版在多项对齐任务、指令跟随任务和工具利用任务中也展现了出色的适应性。这得益于其采用的混元Turbo S创新架构和Hybrid-Mamba-Transformer融合模式。这是工业界首次将混合Mamba架构无损应用于超大型推理模型,有效降低了传统Transformer结构的计算复杂度,减少了KV-Cache的内存占用,从而显著降低了训练和推理成本。
此外,混元T1具备出色的长文捕捉能力,能够有效解决长文推理中常见的上下文丢失和长距离信息依赖问题。混合Mamba架构针对长序列处理进行了专项优化,通过高效的计算方式,在确保长文本信息捕捉能力的同时大幅降低资源消耗。在相近的激活参数量下,混元T1实现了解码速度提升2倍。
目前,腾讯混元T1已开放体验,并上线了API服务。用户可以根据需求,以每百万tokens 1元的输入价格和每百万tokens 4元的输出价格,享受这一强大推理模型带来的便捷与高效。