本文由 智能Pro 撰写/授权提供，转载请注明原出处。

文章来源于：智能Pro

作者：失魂引

生成式 AI 从提升工作效率的神器，竟变成了企业和网友的心腹大患？

日前安全公司 Check Point 发布报告称，一款名为“FunkSec”的木马型勒索病毒从 2024 年底至今，陆续攻击了 85 家企业。解析代码后研究人员发现该病毒基于 Rust 编程语言，语法注释非常流畅，但攻击模式较为原始落后，判断该病毒大概率由 AI 生成。

随着调查的深入，研究人员还发现有黑客在地下论坛售卖 FunkSec 病毒。这种情况表明，黑客可以利用生成式 AI 大规模制造病毒牟利。科技是一把双刃剑，生成式 AI 在提高工作效率、生活便利度之外，潜在的风险也逐渐显露了出来。

自从 OpenAI 发布 ChatGPT 后，使用生成式 AI 开发病毒或生成其他有害内容，用于攻击企业和个人计算机就已十分常见。安全公司 Vipre 公布的数据显示，2023 年第二季度商务邮件欺诈攻击数量相较 2022 年增加了 20%，其中接近一半由 AI 生成。

企业安全威胁研究团队 Imperva Threat Research 在报告中指出，2024 年 4 月到 9 月，零售网站平均每天要遭受 569884 次攻击，ChatGPT、Claude、Gemini 等 AI 工具，常被用于进 行 DDoS（分布式拒绝服务攻击）和业务逻辑滥用等行动。

信息咨询公司 Gartner 表示，AI 在网络攻击中的应用已连续三个季度成为企业面临的最大风险。在接受该公司访问的 286 位高级风险审计人员中，80% 的受访者对 AI 可能带来的网络攻击表示担忧。

（图源：豆包AI生成）

生成式 AI 之所以能够成为黑客攻击企业或个人的强力工具，原因不在于其生成的病毒多么强大，而在于生成式 AI 大幅降低了成为黑客的门槛。

Check Point 研究人员透露，售卖 FunkSec 病毒的黑客们技术能力并不强，他们甚至在论坛发帖询问“如何成为黑客”。这群黑客炫耀的攻击企业和数据窃取等“佳绩”，实际上来自其他黑客的犯罪行动，没有生成式 AI 协助，他们大概率连攻击方式原始落后的 FunkSec 都开发不出来。

2024 年 10 月 25 日，据日本《读卖新闻》报道，当地一名男子因使用生成式 AI 制造勒索病毒，被判处有期徒刑三年、缓刑四年。该事件也是日本首个因使用生成式 AI 制造有害内容被刑事处罚的案件。

在庭审过程中，案犯交代自己不懂任何 IT 知识，若没有生成式 AI 则无法制造病毒，并承认用生成式 AI 制造病毒的过程极其简单。一个完全不懂 IT 知识的人，都可以利用生成式 AI 制造病毒并获利，可见在生成式 AI 时代，黑客的门槛有多么低，人人都拥有成为黑客的能力。

（图源：豆包AI生成）

更关键的是，日本 IT 解决方案提供商三井物产 Secure Directions 的高级恶意软件分析技术员吉川孝志直言，生成式 AI 虽然可以设置限制，不直接生成有害内容，但存在规避限制的方法，网上可以轻松找到。

另外，还有开发者开发出了专用于生成恶意代码的 AI 大模型，如 WormGPT、PoisonGPT 等。在不法分子频繁利用 AI 攻击个人和企业，黑客门槛几乎等同于不存在的今天，企业和个人保护自己的信息安全将成为难题。

抵御生成式 AI 所制造病毒的攻击前，首先我们要明白病毒程序攻击的方式。在《威胁洞察（Threat Insights）》报告中，惠普公司指出，受害者遭遇攻击的主要方式为网络钓鱼电子邮件或恶意广告，例如在我们搜索某些工具时，诱导我们进入虚假网站，下载包含病毒的文件，某些不法分子甚至将病毒程序隐藏在 SVG（可缩放矢量图形）中。

惠普公司还在报告中表示，2024 年第二季度，有 12% 带有有害信息的电子邮件绕过了检测系统，其中 61% 来自附件，18% 来自浏览器下载，21% 来自移动存储设备，而 ZIP 文件占恶意文件总量的 39%。

（图源：豆包AI生成）

过去常有网友表示，电脑从来不安装杀毒程序，不去浏览非法网站，电脑就不会中病毒。然而在恶意程序数量飞速增长，假网站无处不在的今天，用户中招的概率也将大幅提升。对抗生成式 AI 批量制造病毒程序的关键，就在于合理利用 AI。

从病毒的攻击方式来看，将 AI 融入杀毒软件、浏览器、搜索引擎，或许能够帮助个人用户构建更坚实的防火墙。杀毒软件加入 AI 功能后，可以智能对文件进行扫描分析，结合生成式 AI 编程的特性，提高病毒的识别能力，从而拦截含有病毒的文件。

浏览器的责任同样重大，与 AI 融合后，要尽量做到帮助用户分析网址的风险，并对网站内的各类文件，包括 SVG 图像进行检测，从源头减少用户下载到含有病毒文件的可能性。我们搜索一些东西时，经常会弹出许多广告内容和虚假网站，对用户的上网体验造成了不利影响，增加了用户被病毒攻击的风险。搜索引擎同样需要利用 AI 技术，排除虚假网站。

（图源：豆包AI生成）

相较于个人，企业面临的风险更大，也是不法分子植入病毒和勒索的主要对象。因而企业不但要增强安全软件的能力，利用 AI 识别和抵御生成式 AI 制造的病毒程序，还要对网络隔离和访问控制，必要时对备份数据和机密数据进行物理隔离。同时，企业也要及时对员工进行培训，避免因员工的错误操作将病毒引入公司内部，而造成财产损失。

自从 1982 年世界上第一个真正意义上的计算机病毒 Elk Cloner 诞生以来，近半个世纪的时间中，互联网公司与黑客之间的对决就从未停止过。21 世纪初中国互联网飞速发展之时，也出现过影响巨大的熊猫烧香事件，前几年的勒索病毒肆虐，更令无数用户和企业遭殃。

利用生成式 AI 制造病毒，是 AI 时代黑客们新的攻击手段。网络安全公司也将以 AI 对抗 AI，利用 AI 识别病毒的代码特征加以拦截，保护用户的上网安全。

利用生成式 AI 制造病毒和防御病毒攻击，本身都会消耗大量资源，可能会拖累企业的正常发展。生成式 AI 大幅降低了制造病毒的门槛，导致普通人也可以生成病毒，未来病毒、虚假网站等可能会指数级上升，导致病毒随处可见，对于整个互联网行业的发展也绝非好事。

普通网民可利用 AI 帮忙规避部分潜在的风险，例如需要查询一些信息时，可以直接向 AI 大模型提问，并通过 AI 大模型提供的链接进入相应的网址，若要下载一些软件，也可以让向 AI 索要官网网址。经过 AI 筛选的内容，安全性更有保障。

（图源：豆包AI生成）

国内互联网的安全程度比较高，尽管也有不少下载站、虚假网站等，但大多可以轻松识别，而且 360、腾讯电脑管家等主流杀毒软件，还会提供软件下载渠道，可帮助用户规避一定的风险。

企业方面情况更为复杂，但网络保护措施也更加健全，考虑到勒索病毒肆虐期不少企业中招，这些企业也需要招募更多人才或与网络安全公司加深合作，以应对 AI 时代的病毒攻击。

不过仅依靠 AI 抵御病毒攻击能够起到的效果有限，百密终有一疏，防贼千日和作贼千日付出的资源不对等。唯有出台更严格、更详细的规定，限制和打击利用生成式AI制造病毒的不法分子，方能彻底消灭黑客群体。

相关部门已在不遗余力打击利用网络犯罪的不法分子，公安部网安局公布的数据显示，2024 年全力推进打击网络黑客犯罪专项工作，侦破案件 1600 余起，抓获犯罪嫌疑人 4900 余名。在相关部门的打击下，国内黑客的生存空间只会越来越小，我们的上网安全也将更有保障。

扫码关注公众号

获取更多技术资讯