“物极必反、否极泰来”，万事万物都有着两面性，当下大热的人工智能技术显然也不例外。这一轮基于大模型的生成式人工智能（GenAI）在提升了效率的同时，也让一部分人疲于奔命。日前有爆料称，有海外黑灰产团队利用OpenAI的API，成功攻破了Gmail、Hotmail的反垃圾邮件体系，而OpenAI方面在网络安全研究人员连续举报四个月之后才封禁了相关账号。
对于电子邮件，许多国内用户可能已经感到很陌生了。由于我国跳过了互联网建设的草创期，大多数网民真正接触互联网已经是千禧年之后的事情，而电子邮箱其实是与即时通讯同步发展的。例如网易163邮箱是在1997年诞生，仅仅两年后腾讯QQ就上线了，所以大家还没有对通过电子邮件交流产生习惯就已经淘汰，取而代之的则是QQ这种即时通讯工具。
然而在海外市场，电子邮件则是一个早已渗透到社会生活方方面面的事物，它的诞生甚至还要早于互联网。电子邮件因其可存档、可追溯，且去中心化的特性，一直以来都是作为比即时通讯软件更正式的沟通渠道存在。
可问题就在于电子邮件过于古老，其主要基于的SMTP、SMTP、POP3协议，都属于Internet基础的TCP/IP协议簇。而使用通用协议的优势，就在于可以使用任何一种邮件客户端，并以任何一种方式去查看自己的邮件。
然而电子邮件的协议就导致了可以无需对方同意，只要知道邮件地址，就可以向其发送信息，这种特性与电话一模一样。再加上如今海外市场的网民还普遍在使用电子邮件，所以黑灰产就盯上了这个好用的工具，并向普通用户批量发送包含广告推广、欺诈信息或恶意链接的垃圾邮件（Junk mail）。
从某种意义上来说，现在猖獗的电信诈骗其实与垃圾邮件一脉相承。根据美国联邦调查局公布的统计数据显示，从2013年6月至2021年12月间，商业电子邮件诈骗在全球造成了超过430亿美元的损失。所以为了解决垃圾邮件这一问题，提供电子邮箱服务的互联网厂商就发明了反垃圾内容技术（Anti-spam）。
Anti-spam的目的就是过滤重复、无价值的信息，从而保护用户免受垃圾信息的干扰。这一机制的核心，是通过数据提取与特征匹配，来提取垃圾信息的关键词、ID、IP等关键特征加以屏蔽，或是设计虚假的垃圾邮件陷阱（Spam Trap）。
然而由于互联网厂商不想波及到正常用户，所以就导致Anti-spam追求的是效果与成本的平衡。而使用AI技术的黑灰产，就是利用了互联网厂商既要反垃圾、又要保护用户体验的思维，用AI来将垃圾邮件伪装成正常的邮件。毕竟出于成本控制的考量，黑灰产是不可能手动来编辑邮件的，他们以往是使用一套模板来批量群发、实现以量取胜，每年仅仅是被监测到的垃圾邮件都是以百亿为单位。
GenAI的优势就在于大规模生成文字、图片内容，毕竟经过数轮的价格战后，现在大模型的使用成本已经相当低廉。以OpenAI为例，他们旗下GPT-4o mini的每100万Tokens就只需要60美分，这就足够填满2500张32开的书页。
具体来说，要发送垃圾邮件的黑灰产会先抓取大量中小网站的名称和域名，然后将其整理为数据表单，接着利用GPT-4o mini的API来批量生成垃圾邮件，提示词中的网站名称和域名则用Python脚本来实现自动轮换。这样生成垃圾邮件的特点，就是内容虽然基于同一模板，但各个都有差异，堪称是用AI来实现“伪原创”。
根据网络安全公司SentinelLabs的统计，黑灰产发送的这类具有针对性、不重复的垃圾邮件，谷歌等厂商Anti-spam机制的拦截效率只有不到15%。但正常情况下，Anti-spam拦截垃圾邮件的效率会达到99%以上。
那么问题就来了，面对黑灰产用AI重新激活的垃圾邮件，如今业界有反制措施了吗？其实答案是几乎还没有，甚至OpenAI封杀他们使用的开发者账号也没有太多意义，因为黑灰产完全可以做到批量注册账号。在暂时还没有解决方案的情况下，未来对于需要实用电子邮件的用户、特别是海外用户来说，可能就只能在垃圾邮件的海洋里“淘金”了。
