谷歌为黑客提供 1200 万美元以应对生成式人工智能攻击

谷歌正在扩展其当前的漏洞悬赏计划，以奖励发现生成式人工智能中可能存在攻击的黑客和安全研究人员。漏洞奖励计划（VRP）为符合条件的报告列出了明确的经济奖励准则。如果某个问题符合报告条件，您可以在Bug Hunter 网站上提交该问题。如果被认定为有效，就可以获得奖励。

去年，谷歌向披露安全漏洞的安全专家支付了 1200 万美元。今年 8 月，在白宫举行的迄今为止最大的生成式人工智能公开活动 Defcon 上，该公司召集了其他行业代表和安全研究人员，以确定可能存在的问题。

我们相信，扩大 VRP 将激励围绕人工智能安全和保安的研究，并揭示潜在的问题，最终使人工智能对每个人都更加安全。我们还将扩大我们的开源安全工作，使有关人工智能供应链安全的信息可以被普遍发现和验证。

- 谷歌发言人

到目前为止，该公司一直使用自己的 "AI 红队 "来研究 AI 威胁、发现漏洞并开发系统防御。

我们利用攻击者的战术、技术和程序（TTP）来测试一系列系统防御措施。

- 谷歌红队负责人丹尼尔-法比安

根据新规定，外部黑客现在可以模拟攻击，例如找出谷歌人工智能系统和服务中的缺陷，但他们必须在严格的框架内工作。在延长奖励计划之前，拜登总统还发布了一项新的行政命令。

10 月 30 日，乔-拜登发布了首个关于人工智能的强制性政府行动。该行政令规定，政府机构在使用人工智能模型之前，必须对其进行全面评估。