BlindAI 是一个机密的 AI 推理服务器,与常规的人工智能推理解决方案一样,BlindAI 帮助工程师为终端用户提供模型,使其从预测中受益,但增加了一个隐私层。用户发送给 AI 模型的数据在任何时候都是保密的,从传输到分析。这样,用户可以从人工智能模型中受益,而不必将他们的数据明确地暴露给任何人:无论是 AI 服务提供商,还是云提供商(如果有的话),都无法看到数据。
解决方案分为两部分:
- 使用 Rust 编程语言开发的安全推理服务器,为人工智能模型提供隐私保证
- 一个 Python 客户端 SDK,用于安全地消费远程 AI 模型
安装 BlindAI
pip install blindai
这个包足以在我们的托管基础设施上部署和查询模型。
评论