GPT“生成式钓鱼邮件”泛滥，研究人员建议“使用 AI 对付 AI”-科技让生活更美好

IT之家12月27日报道，安全公司变态近日发布报告，声称“AI钓鱼邮件”越来越猖獗。很多黑客利用各种模型批量创建钓鱼邮件，然后利用脚本群发相关邮件，从而实施“高效”的网络诈骗活动。联想V570 开机屏不亮

该公司的研究人员引用了WormGPT和FraudGPT等恶意AI工具，声称黑客已经将生成式人工智能融入了攻击策略，因此用户需要“以同样的方式反击”，并使用AI过滤“可能由AI创建的钓鱼邮件”。

IT之家查询安全报告了解到，传统钓鱼邮件通常使用同一个域名，且文本有固定的模板格式，邮件整体内容和风格相对统一，相当容易被安全软件标签拦截。黑客利用AI生成的钓鱼邮件，乍一看“相当独特”，甚至“每一封都不一样”，因此很难被传统安全软件甚至人类检测到。

据悉，研究人员在报告中引入了一款名为巨型语言模型测试室(GLTR)的AI检测工具，该工具利用了“相关钓鱼邮件的内容主要使用‘预测性’来调用‘特定高概率词’的特性”，从而准确识别AI钓鱼邮件。多普达手机

研究人员声称，即使黑客让AI“使用更正式的措辞”来创建电子邮件，GLTR工具仍然可以确定电子邮件的哪些部分是“大概率由人工智能生成的”。不过，报告也指出，相关检测手段存在“误杀率”，“几乎不可能”百分之百判断邮件内容是否由AI创作。

研究人员还提到，AI写的内容出现“语法和拼写错误”的概率小于人类，因此受害者更容易上当，目前“用AI对付AI”的方案更有效。

GPT“生成式钓鱼邮件”泛滥，研究人员建议“使用 AI 对付 AI”