今年以来，关于人工智能被用于助长新型诈骗的讨论不绝于耳，从Facebook上泛滥的名人“深度伪造”视频，到黑客利用AI语音模仿政府官员进行欺诈，公众的焦点普遍集中在AI作为诈骗工具的威胁上。然而，一份最新发布的研究报告揭示了一个令人不安的新视角：人工智能本身也可能成为诈骗的受害者，而且其脆弱性可能超乎想象。报告指出，新兴的AI浏览器和代理AI（agentic AI）在面对一些显而易见的网络钓鱼陷阱和恶意指令时，表现得不堪一击，这可能预示着网络欺诈风险正在从一个全新的维度袭来。

Perplexity AI的实战测试：智能代理的“天真”一面

该报告将研究重点放在了像Perplexity这样具备“代理”能力的AI服务上。这类所谓的“代理AI”或AI浏览器，其设计目标是不仅仅是回答问题，而是能够理解用户的复杂指令并自主执行一系列任务，例如预订航班、在线购物、管理日程等。它们被视为通往下一代智能个人助理的关键。然而，研究人员通过一系列测试发现，这种强大的自主性背后隐藏着巨大的安全隐患。在模拟实验中，研究人员发现 Perplexity的代理AI会轻易地掉入设计粗糙的网络钓鱼网站陷阱。当被指令去某个网站执行任务时，AI似乎无法有效辨别网站的真伪，会毫不犹豫地在虚假的登录页面或表单中输入敏感信息。更令人担忧的是，它还会执行嵌入在网页或用户提示中的恶意指令，这为攻击者提供了一条直接操纵AI行为的通路。

为何强大的AI如此脆弱？

人工智能在处理海量数据和复杂计算方面远超人类，但它们为何在辨别欺诈这种对人类来说有时“显而易见”的事情上栽了跟头？根本原因在于当前AI模型的设计与训练方式存在固有的局限性：

• 缺乏人类的“怀疑主义”： 人类在长期的社会经验中学会了怀疑和审慎。我们会对一个看起来“好得不像话”的优惠或一个要求提供过多个人信息的网站保持警惕。但AI的核心驱动力是遵循指令和提供帮助，它们的模型中并未内置这种基于常识的“不信任”机制。

• 对上下文和元信息的理解不足： AI主要依赖于其训练数据中的模式来做判断。一个精心制作的钓鱼网站，即使域名可疑，但只要其页面布局、文本内容模仿得足够逼真，AI就可能因匹配了其知识库中“合法网站”的模式而被欺骗。它很难像人类一样，结合URL的拼写、SSL证书的细节、网站的声誉等多种元信息进行综合判断。

• 指令遵循的绝对性： 代理AI被设计为忠实执行用户的指令。当恶意代码被巧妙地伪装成正常指令的一部分时（即“提示注入攻击”），AI可能会在没有充分安全检查的情况下就执行了它。例如，一个看似无害的“帮我总结这个网页内容”的指令，可能隐藏着让AI访问恶意链接或泄露浏览器会话信息的代码。

对网络安全生态的深远影响

AI浏览器的这种脆弱性，不仅仅是单个应用的安全问题，它可能对整个网络安全生态构成系统性威胁。随着越来越多的用户开始依赖这些智能代理来处理日常数字生活，它们将逐渐成为网络犯罪分子的首要攻击目标。过去，黑客需要花费大量精力设计骗局来欺骗成千上万个不同的人；未来，他们可能只需要设计一个能欺骗主流AI代理的陷阱，就能实现大规模、自动化的攻击。这不仅会引发新一轮的个人数据泄露危机，更可能导致财务欺诈、身份盗用等严重后果。当一个AI代理能够访问你的电子邮件、联系人、信用卡信息并能自主下单时，一旦它被劫持，其破坏力将是惊人的。

前路在何方：为AI筑起安全防线

这份报告为所有AI开发者和安全研究人员敲响了警钟。要让AI真正成为我们可靠的数字伙伴，就必须从根本上解决其安全信任问题。未来的发展方向必须包括为AI模型构建强大的“免疫系统”。这可能涉及到开发专门用于识别欺诈和恶意意图的AI安全层，在执行敏感操作前强制进行多重验证，以及通过“沙盒”环境限制AI代理的操作权限，确保即便被欺骗，其造成的损害也能被控制在最小范围内。AI的智能化竞赛固然激动人心，但一场围绕AI安全的攻防战已经悄然打响。在将我们的数字生活钥匙完全交给AI之前，我们必须确保它们已经学会了如何辨别并抵御网络世界中的“恶狼”。