Perplexity推出的AI浏览器Comet可被诱骗,研究人员引跳转至冒牌电商网站自动下单

生成式AI已逐渐融入你我的生活,其中一项就是被集成到浏览器其中,不仅常见的浏览器Chrome、Edge、Brave已集成AI助理,AI企业Perplexity也推出自家浏览器Comet、OpenAI为ChatGPT加入Agent Mode,试图颠覆用户的上网体验,然而集成AI代理程序带来的便利,也可能成为攻击者眼中的肥羊,他们有可能诱骗AI机器人上当,让它们访问钓渔网站、假电商平台,或是通过隐匿的恶意提示进行互动,过程中完全不会有用户介入。

安全企业Guardio提出警告,这些AI浏览器虽然能通过代理程序机器人将用户处理电子邮件、线上购物等上网活动自动化,但他们的研究结果发现,这些便利的背后存在着安全隐忧,原因是在导入这种代理AI机制之后,也为浏览器带来AI的相关弱点,而有可能在没有完整的资讯下采取行动、过于容易信任,并且在人类自然会异议的情况下执行有问题的指示。

换言之,AI浏览器有可能在用户不知情的情况下,点击、下载、处理敏感数据。Guardio指出,在浏览器集成AI之后,攻击者不再需要愚弄用户,而是只要对AI下手,就能造成用户损失,他们称呼这种新的诈骗模式为Scamlexity。

为了验证上述的理论,Guardio挑选AI企业Perplexity出品的Comet进行测试,设置3种场景来进行实验,从冒牌Walmart电商网站、用于攻击行动的富国银行(Wells Fargo)钓鱼域名,对浏览器的AI代理程序进行ClickFix网络钓鱼攻击,借由在伪造的CAPTCHA图灵验证机制埋入提示注入,从而直接控制代理程序,该公司将这种用于对AI下手的手法称作PromptFix。

在攻击模拟尝试时,Guardio首先测试其最常主打的功能一项功能,那就是协助用户购买特定的物品,找到有货的电商网站下单并进行结账。他们通过AI网页制作工具Lovable打造了冒牌Walmart商城进行测试,要求Comet的AI购买Apple Watch,结果浏览器在几乎没有发现异状的情况下,直接访问假商城下单,并填入浏览器存储的信用卡数据及地址完成购买,过程中完全没有要求用户确认。

接着他们要以用户会通过AI处理电子邮件信箱收到的特定邮件为背景,使用ProtonMail服务发送钓鱼邮件,研究人员假冒富国银行的投资经理发送,并于信件内容挟带一个真实的钓渔网站网址,但该网站并未被Google Safe Browsing识别有害。结果Comet在收到电子邮件后,就直接标记为待办事项,并在未经过验证的情况下点击连接,要求用户输入相关帐密,甚至协助填写表单。

最后一种则是涉及提示注入的网络钓鱼手法PromptFix,Guardio结合对针对人类的ClickFix手法,他们将用于欺骗人类复制恶意指令的假图灵验证网页,在隐藏的文本方块埋入对AI代理提示注入的指令,一旦浏览器访问该网页,就会直接读取这些提示。


(科技责编:拓荒牛 )