摘要：
2026年9月1日，腾讯混元正式推出Hy4 preview轻量版——一款旗舰模型的压缩版本，专为消费级硬件上的本地与离线推理设计。通过自研Sherry 1... 2026年9月1日，腾讯混元正式推出Hy4 preview轻量版——一款旗舰模型的压缩版本，专为消费级硬件上的本地与离线推理设计。通过自研Sherry 1.25-bit稀疏三值量化与MIX-STQ1_0混合精度策略，模型体积从约1.5TB压缩至214GB，减少约86%。在SWE-bench Pro上相比BF16原版仅下降约0.7%，长程编码与工具调用能力基本保留。模型已适配GGUF格式，支持Prima.cpp、llama.cpp生态与vLLM，可在笔记本4090（16GB显存、32GB内存）上运行，适合数据敏感型企业、个人开发者与边缘端私有化场景。
一、把旗舰塞进消费级显卡
轻量版的核心突破来自腾讯自研的Sherry量化算法，采用1.25-bit稀疏三值表示，配合MIX-STQ1_0混合精度策略，在极低比特下尽量保留原模型的分布特征。与同代闭源旗舰相比，阿里云的Qwen 3.8-Max走的是全量高参数路线，而Hy4轻量版选择在“可本地部署”上做文章，把原本只能在数据中心跑的770B级模型压到单卡可承载。
据腾讯AngelSlim官方仓库实测，轻量版在SWE-bench Pro上相比BF16原版仅下降约0.7%，长程编码与工具调用能力基本保留。在中文理解与多模态相关任务上，轻量版同样继承了Hy4 preview全量版的底座能力，日常对话、摘要与文档处理的可用度未受明显影响。消费级部署方面，官方给出的参考配置为笔记本4090（32GB内存、16GB显存）或服务端4×A4000，实测推理速度约1.02 tokens/s。
二、量化内核已回馈上游社区
轻量版采用的STQ1_0量化内核已以PR #22836形式提交至llama.cpp上游，使用主流推理框架的开发者无需等待官方集成即可获得底层加速。Sherry算法代码也以独立分支在AngelSlim仓库公开，便于研究者复现与改进。这种“先开源、再回馈上游”的节奏，显著降低了第三方框架适配1.25-bit权重的工程门槛。
在AI工具导航的框架下，Hy4 preview轻量版与GLM-5.3-Flash、Muse Glimmer形成了三条差异化路线：GLM-5.3-Flash以1M长上下文与极低API定价主打普惠；Muse Glimmer以20GB以内的单卡体积面向本地常驻智能体；Hy4轻量版则把“压出来的大模型”作为核心卖点，让原本只有数据中心才能承载的770B级模型落到单张消费级显卡上。对于需要在本地或内网跑大模型的企业技术团队而言，这意味着可以在不依赖云端API的情况下获得接近旗舰级的推理质量，并完全掌控数据流向。
三、应用场景与适用人群
本地私有化部署：金融、医疗等数据不出域行业，可在内网显卡上跑满血级推理
边缘与离线推理：无稳定云连接的现场设备、巡检终端可做轻量大模型接入
研发与原型验证：个人开发者用单张4090即可体验770B级模型的能力边界
适用人群：需要在本地或内网跑大模型的企业技术团队、对数据合规有要求的行业用户，以及想在消费级显卡上做实验的开发者。在AI办公软件推荐的语境中，Hy4 preview轻量版适合作为企业内部知识库、文档处理系统的私有化推理底座，尤其适合对数据出境和API依赖有严格限制的办公场景。
四、价格与开源情况
Hy4 preview轻量版完全开源，权重（GGUF）、量化算法Sherry与部署工具链均在GitHub（Tencent/AngelSlim）与Hugging Face（AngelSlim）公开，开发者可免费下载、微调与商用，无需按调用量付费——你买的是硬件，不是持续的token账单。自部署会产生显卡与电力成本，且1.02 tokens/s的参考速度更适合离线批处理而非高并发在线服务。企业用户无需额外授权费用，可纳入私有化交付链路。