lnterpretML 正在参加 2021 年度 OSC 中国开源项目评选,请投票支持!
lnterpretML 在 2021 年度 OSC 中国开源项目评选 中已获得 {{ projectVoteCount }} 票,请投票支持!
2021 年度 OSC 中国开源项目评选 正在火热进行中,快来投票支持你喜欢的开源项目!
2021 年度 OSC 中国开源项目评选 >>> 中场回顾
lnterpretML 获得 2021 年度 OSC 中国开源项目评选「最佳人气项目」 !
授权协议 MIT
操作系统 跨平台
软件类型 开源软件
开源组织 微软
地区 不详
投 递 者 红薯
适用人群 未知
收录时间 2019-05-12

软件简介

人类创造出人工智能,并且被人工智能影响着自己的生活。如果人工智能的行为具有可理解性,那么人类可以更进一步地利用人工智能。通过理解人工智能系统的行为,数据科学家能够适当地调试它们的模型。如果能够解释模型的行为原理,设计师们就能够向最终用户传递这些信息。如果医生、法官或者其它决策制定者相信这个强化智能系统的模型,那他们就可以作出更好的决策。更广泛的讲,随着模型的理解更加全面,最终用户可能会更快接受由人工智能驱动的产品和解决方案,同时,也可能更容易满足监管机构日益增长的需求。

事实上,要实现可理解性是复杂的,它高度依赖许多变量和人为因素,排除了任何“一刀切”的方法。可理解性是一个前沿的、跨学科的研究领域,它建立在机器学习、心理、人机交互以及设计的思想上。

微软研究院这些年一直致力于研究如何创造出具有可理解性的人工智能,如今微软在MIT开源协议下开源了lnterpretML软件工具包,它将使开发人员能够尝试各种方法去解释模型和系统。InterpretML能够执行许多可理解的模型,包括可解释的Boosting Machine(相对于一般的加性模型做了改进),以及为黑箱模型的行为或者它们的个别预测生成解释的几种方法。

通过一些简单的方式去评估可理解性方法,开发人员就能够比较不同方法产生的解释,从而去选择那些最符合他们需求的方法。例如,通过检查方法之间的一致性,这样一来,比较法就能够帮助数据科学家去了解在多大程度上相信那些解释。

可解释性对如下场景非常有必要:

  • 模型调试 —— 为什么我的模型会犯这些错误
  • 检测偏差 —— 我的模型为什么会有偏向性
  • 人工智能协作 —— 我如何理解和信任模型的决策
  • 合规 —— 我的模型是否遵循法律要求
  • 高风险应用 —— 医疗保健、金融、司法。。。

安装

Python 3.5+ | Linux, Mac OS X, Windows

pip install numpy scipy pyscaffold
pip install -U interpret

开始使用

初始化 Explainable Boosting Machine

from interpret.glassbox import ExplainableBoostingClassifier

ebm = ExplainableBoostingClassifier()
ebm.fit(X_train, y_train)

# EBM supports pandas dataframes, numpy arrays, and handles "string" data natively.

理解模型

from interpret import show

ebm_global = ebm.explain_global()
show(ebm_global)

Global Explanation Image

理解个体预测

ebm_local = ebm.explain_local(X_test, y_test)
show(ebm_local)

Local Explanation Image

多个模型比较:

show([logistic_regression, decision_tree])

Dashboard Image

展开阅读全文

代码

的 Gitee 指数为
超过 的项目

评论

点击加入讨论🔥(1) 发布并加入讨论🔥
暂无内容
发表了博客
{{o.pubDate | formatDate}}

{{formatAllHtml(o.title)}}

{{parseInt(o.replyCount) | bigNumberTransform}}
{{parseInt(o.viewCount) | bigNumberTransform}}
没有更多内容
暂无内容
发表了问答
{{o.pubDate | formatDate}}

{{formatAllHtml(o.title)}}

{{parseInt(o.replyCount) | bigNumberTransform}}
{{parseInt(o.viewCount) | bigNumberTransform}}
没有更多内容
暂无内容
暂无内容
1 评论
16 收藏
分享
OSCHINA
登录后可查看更多优质内容
返回顶部
顶部