Xinference v0.12.2 正式发布

来源: 投稿
作者: lipiisme
2024-06-22 15:45:00

Xinference v0.12.2 正式发布! 🎉v0.12.2 得益于社区的贡献,稳定性得到了极大提高 🙏

新功能 🚀

  •   Qwen moe系列支持tool call 🔧
  •   rerank模型支持输出usage,兼容Cohere API 📊

BUG修复 🐛

  •   修复自定义rerank模型的问题 🛠️
  •   修复错误数量超过100chat接口不响应的问题 🐍

UI 相关 💻

  • 自定义模型启动页面的模型卡片上,可以查看自定义注册对应的json,同时支持修改 
展开阅读全文
点击引领话题📣 发布并加入讨论🔥
0 评论
0 收藏
分享
返回顶部
顶部