腾讯科技消息,腾讯安全平台部预研团队日前发现谷歌人工智能学习系统 TensorFlow 存在自身安全风险,可被黑客利用带来安全威胁,其已向谷歌报告这一风险并获得致谢。
腾讯安全平台部预研团队发现,攻击者可以生成 Tensorflow 的恶意模型文件,对 AI 研究者进行攻击,对受害者自身的 AI 应用进行窃取或篡改、破坏。该风险危害面非常大,一方面攻击成本低,普通攻击者即可实施攻击;另一方面迷惑性强,大部分 AI 研究者可能毫无防备;同时因为利用了 TensorFlow 自身的机制,其在 PC 端和移动端的最新版本均会受到影响。AI 模型被窃取,损失的是开发者的心血;而一旦被篡改,造成 AI 失控,后果更难以想象。
谷歌官方负责人称,考虑到 TensorFlow 在 AI 的广泛使用,TensorFlow 官网将会像大多数重要软件一样在网站创建安全公告页面,及时披露和修复安全漏洞。