警惕AI高仿骗局连发信时间都帮你想好

2025-09-18

**哈佛大学研究员海丁（Fred Heiding），他与《路透》合作设计了本次AI钓鱼邮件的实测计划。**

生成式人工智慧（AI）的普及，正让网路诈骗的威胁急遽升高。根据《路透》与哈佛大学研究员合作的一项最新调查，包括ChatGPT、Grok在内的主流AI聊天机器人，尽管设有安全防护，却能被轻易诱导，协助犯罪份子打造出极具说服力的“钓鱼”诈骗邮件，对长者等弱势族群构成严重威胁。

《路透》记者对6款主流AI聊天机器人进行测试，发现其内建的安全机制形同虚设。当记者直接要求AI撰写诈骗长者的邮件时，多数会遭到拒绝。然而，仅需透过简单的话术，例如声称自己是“研究钓鱼邮件的学者”，或是“正在写一本关于诈骗集团的小说”，所有AI都轻易地绕过了护栏，开始产出以假乱真的诈骗内容。哈佛大学研究员海丁（Fred Heiding）直言：“你总是可以绕过这些东西。”

为验证AI诈骗的真实危害，《路透》与海丁合作，对108名长者志愿者进行了测试。结果显示，由AI生成的诈骗邮件，成功诱使了约11%的长者点击恶意连结，成功率远高于网路安全公司Proofpoint所统计的5.8%行业平均水平。更令人不安的是，AI不仅能代笔，甚至能提供专业的犯罪建议。当被问及发送诈骗邮件的最佳时机时，Google的Gemini便回答：“对长者而言，甜蜜点通常是周一至周五的上午9点到下午3点。”

报导指出，AI的发展正陷入“既要乐于助人，又要无害”的内在矛盾。为了在竞争中留住用户，AI公司往往让模型更倾向于“服从”而非“警惕”。在东南亚的诈骗园区，已有前科犯表示他们普遍使用ChatGPT来优化骗术。

对此，Meta、Google等科技巨头虽表示已部署安全措施，但显然效果不彰。一名71岁的受测者法兰克（Daniel Frank）无奈地说：“我认为AI是个已经从瓶中释放的精灵，我们真的不知道它能做什么、又不能做什么。”

【免责声明】