研究人员入侵谷歌 Gemini，实现远程操控智能家居
IT之家 8 月 7 日消息，在本周的黑帽网络安全大会上，研究人员展示了对谷歌 Gemini 人工智能助手的一次攻击。他们通过在谷歌日历邀请中注入间接提示词，成功控制了与 Gemini 连接的智能家居设备。在实验中，当用户请求 Gemini 提供日历概览并对其结果表示感谢时，恶意提示词指令会命令谷歌的家居 AI 代理执行诸如打开窗户或关闭灯光等操作。
据IT之家了解，研究人员早在今年 2 月就直接将研究结果告知了谷歌。谷歌 Workspace 安全产品管理总监安迪・温（Andy Wen）在接受 Wired 采访时表示：“这种提示词注入攻击可能会伴随我们一段时间，但我们希望最终能够让普通用户不必过于担心。”他指出，此类攻击在现实世界中“极为罕见”，然而，随着大型语言模型复杂性的不断增加，不法分子可能会寻找新的方法来利用这些模型，这使得防范此类攻击变得十分困难。
温强调，谷歌对研究人员发现的漏洞“极为重视”，并利用这些结果加快了开发更好工具以阻止此类攻击的工作进展。
1、小小军人候车室：要擦亮“服役光荣、退役尊崇”的国家叙事窗口
3、中超7月最佳球员候选：米特里策、韦斯利在列，黄子豪入选,中超年度最佳球员