IT之家8 月 7 日音书,正在本周的黑帽收集安乐大会上,商讨职员呈现了对谷歌 Gemini 人工智能助手的一次攻击。他们通过正在谷歌日历邀请中注入间接提示词,得胜支配了与 Gemini 贯穿的智能家居配置。正在实践中,当用户哀告 Gemini 供给日历概览并对其结果暗示谢谢时,恶意提示词指令会下令谷歌的家居 AI 代庖践诺诸如掀开窗户或紧闭灯光等操作。

据IT之家清晰,商讨职员早正在本年 2 月就直接将商讨结果见知了谷歌。谷歌 Workspace 安乐产物收拾总监安迪・温(Andy Wen)正在继承 Wired 采访时暗示:“这种提示词注入攻击能够会陪同咱们一段期间,但咱们愿望最终也许让一般用户不必过于忧虑。”他指出,此类攻击正在实际寰宇中“极为罕睹”,然而,跟着大型说话模子庞大性的连续扩张,造孽分子能够会寻找新的设施来愚弄这些模子,这使得防备此类攻击变得万分清贫。
温夸大,谷歌对商讨职员出现的破绽“极为偏重”,并愚弄这些结果加疾了开荒更好器材以阻遏此类攻击的就业发扬。
广告声明:文内含有的对外跳转链接(蕴涵不限于超链接、二维码、口令等步地),用于通报更众音信,节流甄选期间,结果仅供参考,IT之家扫数著作均包罗本声明。