Adversarial Robustness Toolbox 正在参加 2021 年度 OSC 中国开源项目评选,请投票支持!
Adversarial Robustness Toolbox 在 2021 年度 OSC 中国开源项目评选 中已获得 {{ projectVoteCount }} 票,请投票支持!
2021 年度 OSC 中国开源项目评选 正在火热进行中,快来投票支持你喜欢的开源项目!
2021 年度 OSC 中国开源项目评选 >>> 中场回顾
Adversarial Robustness Toolbox 获得 2021 年度 OSC 中国开源项目评选「最佳人气项目」 !
授权协议 MIT
开发语言 Python 查看源码 »
操作系统 跨平台
软件类型 开源软件
开源组织 IBM
地区 不详
投 递 者
适用人群 未知
收录时间 2018-04-20

软件简介

Adversarial Robustness Toolbox 是 IBM 研究团队开源的用于检测模型及对抗攻击的工具箱,为开发人员加强 AI 模型被误导的防御性,让 AI 系统变得更加安全,目前支持 TensorFlow 和 Keras 框架,未来预计会支持更多框架。

支持以下攻击和防御的方法

  • Deep Fool

  • Fast Gradient Method

  • Jacobian Saliency Map

  • Universal Perturbation

  • Virtual Adversarial Method

  • C&W Attack

  • NewtonFool

防御方法

  • Feature squeezing

  • Spatial smoothing

  • Label smoothing

  • Adversarial training

  • Virtual adversarial training

展开阅读全文

代码

的 Gitee 指数为
超过 的项目

评论

点击引领话题📣 发布并加入讨论🔥
发表了资讯
2018/04/21 08:04

预防 AI 被误导,IBM 开源检测模型及对抗攻击工具箱

为了防止 AI 模型受误导产生错误的判断,研究人员需要经过不断的模拟攻击来确保 AI 模型不会受到欺骗。IBM 研究团队近日开源了检测模型及对抗攻击的工具箱 Adversarial Robustness Toolbox,来协助开发人员加强针对深度神经网路攻击的防御性,让 AI 系统变得更加安全。 近几年 AI 在认知问题上取得不少突破,生活中许多任务也都开始加入 AI 技术,像是辨识图像和影片中的物体、语音转文字、机器翻译等。不过,深度学习网络若受到...

3
4
没有更多内容
加载失败,请刷新页面
点击加载更多
加载中
下一页
发表了博客
{{o.pubDate | formatDate}}

{{formatAllHtml(o.title)}}

{{parseInt(o.replyCount) | bigNumberTransform}}
{{parseInt(o.viewCount) | bigNumberTransform}}
没有更多内容
暂无内容
发表了问答
{{o.pubDate | formatDate}}

{{formatAllHtml(o.title)}}

{{parseInt(o.replyCount) | bigNumberTransform}}
{{parseInt(o.viewCount) | bigNumberTransform}}
没有更多内容
暂无内容
Google TensorFlow 目录穿越漏洞
路径遍历
【漏洞存在争议】Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 在TensorFlow中,当开发者使用tf.keras.utils.get_file并传入extract=True参数时,代码会下载并解压origin参数中的远程压缩包,解压过程存在路径穿越问题。 因此当origin参数攻击者可控时,可以利用恶意构造的压缩包覆盖任意文件。 此漏洞存在争议:官方认为tf.keras.utils.get_file不应该传入不可信的文件地址,未修复该漏洞。
CVE-2021-35958 MPS-2021-9211
2023-12-20 20:01
LIEF 存在拒绝服务漏洞
拒绝服务
LIEF 是由 C++ 开发的一个跨平台的库,可以解析、修改和抽象 ELF、PE 和 MachO 格式。 在LIEF v0.12.1中的 LIEF::MachO::BinaryParser::init_and_parse 函数允许攻击者通过精心设计的 MachO 文件通过分布式拒绝服务攻击内存区段错误引发 DOS 攻击。 攻击者可利用该漏洞使目标服务停止响应甚至崩溃。
CVE-2022-40922 MPS-2022-57263
2023-12-20 20:01
Google TensorFlow 缓冲区错误漏洞
越界读取
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 Google TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在缓冲区错误漏洞,该漏洞源于 GRUBlockCellGrad 中存在越界读取。
CVE-2023-25658 MPS-2023-4417
2023-12-20 20:01
Google TensorFlow 缓冲区错误漏洞
越界读取
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 Google TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在缓冲区错误漏洞,该漏洞源于如果 `DynamicStitch` 的参数 `indices` 与参数 `data` 的形状不匹配,它会触发堆栈 OOB 读取。
CVE-2023-25659 MPS-2023-4418
2023-12-20 20:01
Google TensorFlow 代码问题漏洞
空指针取消引用
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 Google TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在代码问题漏洞,该漏洞源于当 `tf.raw_ops.Print` 的参数 `summarize` 为零时,新方法 `SummarizeArray<bool>` 将引用 nullptr,导致段错误
CVE-2023-25660 MPS-2023-4419
2023-12-20 20:01
Google TensorFlow 输入验证错误漏洞
整数溢出或环绕
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 Google TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在输入验证错误漏洞,该漏洞源于容易受到 EditDistance 中整数溢出的影响。
CVE-2023-25662 MPS-2023-4421
2023-12-20 20:01
Google TensorFlow 代码问题漏洞
空指针取消引用
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 Google TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在代码问题漏洞,该漏洞源于当 ctx->step_containter() 为空指针时,Lookup 函数将使用空指针执行。
CVE-2023-25663 MPS-2023-4422
2023-12-20 20:01
Google TensorFlow 安全漏洞
堆缓冲区溢出
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 Google TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在安全漏洞,该漏洞源于 TAvgPoolGrad 中存在堆缓冲区溢出。
CVE-2023-25664 MPS-2023-4423
2023-12-20 20:01
Google TensorFlow 代码问题漏洞
空指针取消引用
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 Google TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在代码问题漏洞,该漏洞源于当 `SparseSparseMaximum` 被赋予无效的稀疏张量作为输入时,它会给出一个空指针错误。
CVE-2023-25665 MPS-2023-4424
2023-12-20 20:01
Google TensorFlow 安全漏洞
不充分的比较
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 Google TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在安全漏洞,该漏洞源于 AudioSpectrogram 中存在浮点异常。
CVE-2023-25666 MPS-2023-4425
2023-12-20 20:01
Google TensorFlow 输入验证错误漏洞
整数溢出或环绕
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 Google TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在输入验证错误漏洞,该漏洞源于当“2^31 <= num_frames * height * width * channels < 2^32”时会发生整数溢出,例如至少 346 帧的全高清截屏。
CVE-2023-25667 MPS-2023-4426
2023-12-20 20:01
Google TensorFlow 安全漏洞
越界读取
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 Google TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在安全漏洞。攻击者利用该漏洞可以访问不受用户控制的堆内存,从而导致崩溃或远程代码执行。
CVE-2023-25668 MPS-2023-4427
2023-12-20 20:01
Google TensorFlow 安全漏洞
不充分的比较
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在安全漏洞,该漏洞源于如果 `tf.raw_ops.AvgPoolGrad` 的步幅和窗口大小不是正数,它会给出浮点异常。
CVE-2023-25669 MPS-2023-4428
2023-12-20 20:01
Google TensorFlow 代码问题漏洞
空指针取消引用
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在代码问题漏洞,该漏洞源于启用 MKL 的 QuantizedMatMulWithBiasAndDequantize 中存在零点错误。
CVE-2023-25670 MPS-2023-4429
2023-12-20 20:01
Google TensorFlow 缓冲区错误漏洞
越界写入
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 Google TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在缓冲区错误漏洞,该漏洞源于由于不匹配的整数类型大小,存在越界访问。
CVE-2023-25671 MPS-2023-4430
2023-12-20 20:01
Google TensorFlow 代码问题漏洞
空指针取消引用
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在代码问题漏洞,该漏洞源于函数 `tf.raw_ops.LookupTableImportV2` 无法处理 `values` 参数中的标量并给出 NPE。
CVE-2023-25672 MPS-2023-4431
2023-12-20 20:01
Google TensorFlow 安全漏洞
不充分的比较
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 Google TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在安全漏洞,该漏洞源于带有 XLA 的 TensorListSplit 中的浮点异常。
CVE-2023-25673 MPS-2023-4432
2023-12-20 20:01
Google TensorFlow 代码问题漏洞
空指针取消引用
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在代码问题漏洞,该漏洞源于启用 XLA 的 RandomShuffle 中的空指针错误。
CVE-2023-25674 MPS-2023-4433
2023-12-20 20:01
Google TensorFlow 安全漏洞
不充分的比较
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 Google TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在安全漏洞,该漏洞源于当使用 XLA 运行 2.12.0 和 2.11.1 之前的版本时,如果给定的参数 weights 与参数 arr 的形状既不相同,也不是长度为 0 的张量,则 `tf.raw_ops.Bincount` 会出现段错误。
CVE-2023-25675 MPS-2023-4434
2023-12-20 20:01
Google TensorFlow 代码问题漏洞
空指针取消引用
Google TensorFlow是美国谷歌(Google)公司的一套用于机器学习的端到端开源平台。 TensorFlow 2.12.0 版本之前的 2.12 版本和 2.11.1 版本之前的 2.11 版本存在代码问题漏洞,该漏洞源于当使用 XLA 运行 2.12.0 和 2.11.1 之前的版本时,如果给定等级不大于零的参数“shape”,则“tf.raw_ops.ParallelConcat”会出现带有 nullptr 取消引用的段错误。
CVE-2023-25676 MPS-2023-4435
2023-12-20 20:01
没有更多内容
加载失败,请刷新页面
点击加载更多
加载中
下一页
0 评论
1 收藏
分享
OSCHINA
登录后可查看更多优质内容
返回顶部
顶部