荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

Qwen3.8-27B 本地运行前沿级编码智能体与推理,无需云API

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

本周开发者圈中最重要的 AI 发布不是来自 OpenAI 或 Anthropic,而是阿里巴巴开源的 Qwen3.8-27B 模型。该模型于周五在 Hugging Face 上以 Apache 2.0 许可证发布。这个拥有 270 亿参数的稠密多模态模型支持图像和视频理解,拥有 262,144 个 token 的上下文窗口,并为编码和智能体工作流提供可配置的推理能力。它还提供了可下载的权重,使得前沿级能力可以在云端之外使用。

与典型的小型本地模型不同,Qwen3.8-27B 将先进性能压缩到一个可部署的包中。在 4 位量化下,它大约需要 17GB 内存,适合高端消费级机器,如游戏台式机和笔记本电脑。更高精度的版本需要 56GB 或 28GB,但紧凑的占用空间是一大卖点。

阿里巴巴的基准测试显示,其在 SWE-bench Pro 上得分为 61.7,LiveCodeBench v6 为 90.3,CoWorkBench 为 70.7,OSWorld-Verified 为 84.3。来自 Artificial Analysis 的第三方评估在智能指数上给出了 52 分,与 OpenAI 的 GPT-5.6 Luna 相当;在智能体指数上给出 51 分,在最大推理能力上超过了 Claude Opus 4.8。这些数字虽然并非完全可比,但表明它是专有系统的一个强大的本地替代方案。

其影响意义重大:一个能在消费级硬件上运行的模型可以与云巨头相抗衡,改变了 AI 部署的经济性。开发者可以在本地修改和执行模型,无需支付 API 费用或将数据发送到第三方服务器。这为隐私敏感和离线应用开辟了新的可能性。

开发者的反应既惊讶又热情。编码智能体 Cline 写道:“这是本地模型首次达到前沿模型的能力。”开发者 Sero 评论说:“一个能在 3000 美元硬件上运行的模型击败了 4 个月前的一切。”使用 WebGPU 内核运行该模型的 Joshua Lochner 庆祝道:“活在这个时代真棒!”

未来的测试看起来很有前景。Simon Willison 在搭载 M5 Max 的 MacBook Pro 上运行了 17GB 量化版本,以及 Nvidi...

阅读原文 →来源:venturebeat