Anthropic 宣布启动 Claude for Chrome 浏览器扩展的测试，让 AI 不再局限于对话框，而是能在网页中执行实际操作，例如查看页面、填写表单、点击按钮。这一功能有望显著提升工作效率，但也带来前所未有的安全挑战。
在红队测试中，Claude 在未加防护的情况下，面对 123 种攻击方式，有 23.6% 被成功利用，甚至曾因被伪装成“安全通知”的邮件欺骗而删除整份邮箱内容。对此，Anthropic 已引入多层防护机制，包括：
权限控制：用户可选择授予或撤销 Claude 对特定网站的访问；敏感操作必须经过确认。
风险隔离：屏蔽金融、成人、侵权等高风险站点。
安全引导与检测：通过系统提示和异常行为分类器，拦截潜在的恶意指令。
目前，Claude for Chrome 仅向 Max 计划的首批 1,000 名用户开放测试。Anthropic 表示，将在收集用户反馈后逐步扩大范围，并持续强化安全机制。
评论删除后，数据将无法恢复
Anthropic 推出 Claude for Chrome，支持在网页中执行实际操作
Anthropic 宣布启动 Claude for Chrome 浏览器扩展的测试，让 AI 不再局限于对话框，而是能在网页中执行实际操作，例如查看页面、填写表单、点击按钮。这一功能有望显著提升工作效率，但也带来前所未有的安全挑战。
在红队测试中，Claude 在未加防护的情况下，面对 123 种攻击方式，有 23.6% 被成功利用，甚至曾因被伪装成“安全通知”的邮件欺骗而删除整份邮箱内容。对此，Anthropic 已引入多层防护机制，包括：
权限控制：用户可选择授予或撤销 Claude 对特定网站的访问；敏感操作必须经过确认。
风险隔离：屏蔽金融、成人、侵权等高风险站点。
安全引导与检测：通过系统提示和异常行为分类器，拦截潜在的恶意指令。
目前，Claude for Chrome 仅向 Max 计划的首批 1,000 名用户开放测试。Anthropic 表示，将在收集用户反馈后逐步扩大范围，并持续强化安全机制。