Mistral AI 发布编程大模型 Codestral:220 亿参数、支持 80 多种语言

来源: 投稿
2024-05-30 13:53:00

Mistral 发布了新的编程大模型  Codestral,并开源模型参数权重。据称 Codestral 在代码基准测试中显著优于 Llama3 70B 等大模型。

Codestral 在 80 多种编程语言的不同数据集上进行了训练,其中包括最流行的语言,如 Python、Java、C、C++、JavaScript 和 Bash。对于不那么主流的语言比如 Swift 和 Fortran 同样表现出色。这种广泛的语言基础确保 Codestral 可以在各种编码环境和项目中为开发者提供帮助。

和其它编程 LLM 类似,Codestral 可以帮助开发者完成各种功能,包括完成函数、编写测试、填充代码等等,降低代码中出现错误和漏洞的风险。

Mistral AI 还通过图表,让 Codestral 22B 对比了 Code Llama 70B、DeepSeek Coder 33B 和 Llama 3 70B 同类大模型,表示 Codestral 的参数虽然只有 220 亿,但上下文长度达到 3.2 万个 tokens,根据进行的几项基准测试,它在 Python、SQL 和其他语言方面的表现普遍更好。

在 SQL spider 基准测试中,Llama 3 70B 的得分率为 67.1%,Codestral 22B 为 63.5%;在 MBPP Python 基准测试中,DeepSeek Code 33B 的得分率为 80.2%,Codestral 22B 为 78.2%。

Codestral 目前处于 Beta 阶段,可以访问 chat.mistral.ai 免费使用。

文档:https://docs.mistral.ai/capabilities/code_generation/

展开阅读全文
点击引领话题📣 发布并加入讨论🔥
0 评论
4 收藏
分享
返回顶部
顶部