Sockeye 正在参加 2021 年度 OSC 中国开源项目评选,请投票支持!
Sockeye 在 2021 年度 OSC 中国开源项目评选 中已获得 {{ projectVoteCount }} 票,请投票支持!
2021 年度 OSC 中国开源项目评选 正在火热进行中,快来投票支持你喜欢的开源项目!
2021 年度 OSC 中国开源项目评选 >>> 中场回顾
Sockeye 获得 2021 年度 OSC 中国开源项目评选「最佳人气项目」 !
授权协议 Apache
操作系统 跨平台
软件类型 开源软件
开源组织 Amazon
地区 不详
投 递 者
适用人群 未知
收录时间 2017-07-21

软件简介

Sockeye 是一个基于 Apache MXNet 的快速而可扩展的深度学习库。Sockeye 代码库具有来自 MXNet 的独特优势。例如,通过符号式和命令式 MXNet API,Sockeye 结合了陈述式和命令式编程风格;它同样可以在多块 GPU 上并行训练模型。

Sockeye:为使用 MXNet 的机器翻译进行序列到序列建模

Sockeye 实现了 MXNet 上当前最佳的序列到序列模型。它同样为所有序列到序列模型的超参数提供恰当的默认值。对于优化,无需担心停止标准、指标跟踪或者权重初始化。可以简单地运行已提供的训练命令行界面(CLI),也可以轻易改变基础模型架构,比如:

  • RNN 单元类型(LSTM 或 GRU)和隐藏状态大小

  • RNN 层的数量

  • 源序列和目标序列嵌入的大小

  • 应用于源编码的注意力机制的类型

Sockeye 同样有其他更高级的功能,比如:

  • 束搜索推理

  • 多模型的简单集成

  • RNN 层之间的残差链接

  • 输出层预测的词汇偏倚

  • 门控语境(Context gating)

  • 交叉熵标签平滑

  • 层归一化

为了训练,Sockeye 允许使用者完全掌控重要的优化参数。例如,使用者可以设置优化器类型、学习率、动量、权重衰减和提前停止条件。Sockeye 跟踪了训练和验证数据上的多个指标(包括专门针对机器翻译的指标,比如 BLEU)。

展开阅读全文

代码

的 Gitee 指数为
超过 的项目

评论

点击加入讨论🔥(1)
2021/12/21 07:02

Sockeye 3.0.7 发布,快速、可扩展的深度学习库

Sockeye 是一个基于 Apache MXNet 的快速而可扩展的深度学习库。Sockeye 代码库具有来自 MXNet 的独特优势。例如,通过符号式和命令式 MXNet API,Sockeye 结合了陈述式和命令式编程风格;可以在多块 GPU 上并行训练模型。 目前 Sockeye 更新到 3.0.7 版本,改进了训练速度,内容如下: [3.0.7] 在训练期间使用 torch.nn.functional.multi_head_attention_forward 的自注意力和编码器注意力来提高训练速度。 需要重新组织键值输...

0
2
没有更多内容
加载失败,请刷新页面
点击加载更多
加载中
下一页
发表了博客
{{o.pubDate | formatDate}}

{{formatAllHtml(o.title)}}

{{parseInt(o.replyCount) | bigNumberTransform}}
{{parseInt(o.viewCount) | bigNumberTransform}}
没有更多内容
暂无内容
发表了问答
{{o.pubDate | formatDate}}

{{formatAllHtml(o.title)}}

{{parseInt(o.replyCount) | bigNumberTransform}}
{{parseInt(o.viewCount) | bigNumberTransform}}
没有更多内容
暂无内容
networkx 存在反序列化漏洞
反序列化
networkx 是一个 Python 包,用于创建和操作图形和网络 此包的受影响版本容易受到不受信任数据的反序列化。由于在 yaml 中使用了一个已知的易受攻击的函数 load(),这个包很容易通过不安全的 YAML 反序列化执行任意代码,该函数在 networkx/readwrite/nx_yaml 中的 read_yaml() 中调用。
MPS-2022-15000
2022-08-08 18:38
pylint 存在拒绝服务漏洞
拒绝服务
pylint 是一个 Python 静态代码分析工具,可查找编程错误、帮助执行编码标准、嗅探代码异味并提供简单的重构建议。此软件包的受影响版本容易通过 pylint/pylint/pyreverse/utils 中的 SPECIAL 和 PRIVATE 属性受到正则表达式拒绝服务 (ReDoS) 的攻击。
MPS-2022-15071
2022-08-08 18:38
pylint 存在拒绝服务漏洞
拒绝服务
pylint 是一个 Python 静态代码分析工具,可查找编程错误、帮助执行编码标准、嗅探代码异味并提供简单的重构建议。此软件包的受影响版本容易受到正则表达式拒绝服务 (ReDoS) 的攻击。
MPS-2022-15073
2022-08-08 18:38
没有更多内容
加载失败,请刷新页面
点击加载更多
加载中
下一页
1 评论
30 收藏
分享
OSCHINA
登录后可查看更多优质内容
返回顶部
顶部