手机端也能流畅运行，腾讯混元宣布开源四款小尺寸模型

手机端也能流畅运行，腾讯混元宣布开源四款小尺寸模型

8月4日，腾讯混元宣布开源四款小尺寸模型，参数分别为 0.5B、1.8B、4B、7B，消费级显卡即可运行，适用于笔记本电脑、手机、智能座舱、智能家居等低功耗场景，且支持垂直领域低成本微调。

相关模型参数 腾讯官方

目前，四个模型均在Github和Huggingface等开源社区上线，Arm、高通、Intel、联发科技等多个消费级终端芯片平台也都宣布支持部署。

据官方发布的内容，在实测中，四个新模型在语言理解、数学、推理等领域，得分都达到领先水平。

模型相关得分 腾讯官方

据悉，相关模型也兼容SGLang、vLLM、TensorRT-LLM等主流推理框架。

据介绍，这四款 “小” 模型具备双脑协作能力，反应灵活。一个 “快脑” 能瞬间响应信息，快速解决如 “推荐附近川菜馆” 等简单问题；一个 “慢脑” 擅长深思熟虑，可处理 “设计自动写周报系统” 等复杂任务，如同24小时在线的最佳拍档。

同时，模型拥有超强记忆，能精准应答。它可一次性处理256K上下文，即便经过几十轮项目方案讨论，也能记住每处细节，后续提问时依旧对答如流。

模型的Agent能力也相当突出。它能深度搜索资料、整理去年消费账单并自动生成Excel分析，还能一手包办旅行规划从路线搜索到攻略制定的全流程，高效处理多种任务。

本文系观察者网独家稿件，未经授权，不得转载。

Top

1、中国严管稀土军事用途，美国防务公司恐慌：每天都在担心库存,中国稀土管控方式

2、【习近平总书记今年以来治国理政纪实】坚持高质量发展 全面推进中国式现代化

3、遇见你丨一封平邮信开启为烈士寻亲路 乡村信使9年帮50名烈士“回家”