- Advertisement -SMAPACE 50MM MODULAR SYSTEMSMAPACE 50MM MODULAR SYSTEM
AITether AI发布Bo...

Tether AI发布BotPsy:0.8B参数本地代理模型

Tether AI Research 于 11 月 11 日发布 BotPsy,这是一款专为端侧部署设计的 0.8B 参数代理语言模型。它基于 Qwen3.5-0.8B 构建,旨在通过强大的工具调用能力,在本地运行个人助理工作流,解决云端大模型成本高、隐私风险大及依赖第三方服务的问题。

要点速览

BotPsy 的核心优势在于其“代理(Agentic)”能力。与仅用于对话或文本生成的模型不同,BotPsy 经过专门训练,能够理解并执行复杂的工具调用指令,如网页搜索、文件管理、日历操作及智能家居控制。

训练流程示意图
图:Tether AI Research

在同等参数量级(≤1.2B)的模型中,BotPsy 在六个主流基准测试中均取得最高分或接近最高分。值得注意的是,它在五个基准测试中击败了参数量为其 2.5 倍的 Qwen3.5-2B-Think 模型,证明了其在特定工作流中的高效性。

关键参数

项目参数/表现
基础架构Qwen3.5-0.8B
参数量0.8B
许可证Apache 2.0
可用格式Safetensors, GGUF (bf16, Q8, Q4)
BFCL v4 得分44.0(超越 Qwen3.5-2B-Think 的 37.7)
ACEBench 得分58.7(超越 Qwen3.5-2B-Think 的 55.4)
推理效率推理 Token 数减少约 3 倍,循环率降至 1.4%
BotPsy 参数与基准测试数据表
图:Tether AI Research

价格与上市

  • BotPsy 模型权重:免费开源
  • 许可协议:Apache 2.0(用于研究和教育用途)
  • 当前状态:已在 Hugging Face 发布 Safetensors 版本,GGUF 版本同步提供

媒体评价

Tether AI 在官方博客中指出,BotPsy 的设计初衷是应对云端大模型运营成本的波动以及供应商随时修改或停用服务的风险。通过本地部署,用户可以获得更高的数据隐私控制和透明度。

模型在训练过程中采用了四阶段方法:监督微调(SFT)、多教师在线策略蒸馏(MOPD)以及两轮强化学习(RL)。这种训练策略使其在保持通用知识(如 MMLU-Pro 得分 48.9)的同时,大幅提升了工具调用的准确性和多轮对话的稳定性。

RANSEA VIEW

0.8B 参数能做什么?

对于个人用户和小型工作室而言,BotPsy 的价值不在于“全知全能”,而在于“精准执行”。0.8B 的参数量意味着它可以在配备 4GB 甚至更少内存的设备上流畅运行,例如中高端智能手机或低功耗边缘计算设备。

对个人生产力的实际影响:

日常自动化: BotPsy 擅长处理低到中等难度的任务。你可以将其部署在本地,让它自动整理邮件、查询天气并同步到日历,或者根据本地文件结构快速检索资料。由于推理速度快、Token 消耗少,这些任务几乎可以实时完成,无需等待云端响应。

隐私敏感场景: 对于注重隐私的创作者,BotPsy 可以在不联网的情况下处理文档、总结会议记录或提取关键信息。所有数据保留在本地硬件中,避免了数据上传云端被追踪或用于训练的风险。

值得部署吗?

如果你经常使用云端 API 进行简单的自动化任务(如通过脚本调用 ChatGPT 处理文本),部署 BotPsy 可以显著降低长期成本,并消除网络延迟。特别是对于需要频繁调用多个工具(如先搜索、再总结、再发邮件)的工作流,BotPsy 表现出的低幻觉率和低循环率,使其比同等大小的基座模型更可靠。

然而,它并非万能。对于需要深度逻辑推理或大量知识储备的高难度任务,参数量更大的模型(如 7B 或 70B)仍然不可替代。BotPsy 最适合的角色是“本地执行者”,而非“思考者”。

原始链接

留下一个答复

请输入你的评论!
请在这里输入你的名字

订阅周报

每周日一封,免费

一周新品与价格变化

值得买、值得等,还是可以跳过

本周深度稿与实测

往期周报可以在「周报」栏目查看。

Exclusive content

- Advertisement -Work with Ransea:新品送测、品牌合作与广告投放

Latest article

More article

- Advertisement -订阅 Ransea 周报订阅 Ransea 周报