【头部财经】近期，AI target=_blank class=infotextkey>OpenAI因人工智能聊天机器人ChatGPT在道德和数据安全方面的问题备受质疑，甚至面临美国联邦贸易委员会（FTC）的正式调查。与此同时，一款名为“WormGPT”的“邪恶版ChatGPT”在网络中迅速传播开来。
据网络安全公司SlashNext的报道，他们在研究生成式AI在网络犯罪中的潜在风险时偶然发现了WormGPT。这是一个黑帽版的GPT模型，设计目的是为了进行各种非法活动，它被形容为“专为恶意活动而设计”，是“网络罪犯的武器库”。
WormGPT的售价每月为60欧元（约人民币479元）。该黑客称：“WormGPT旨在提供ChatGPT的替代方案，让你做各种与黑帽相关的非法事情。”为了证明他的说法，他上传了一些截图，展示用户可以要求机器人生成用Python/ target=_blank class=infotextkey>Python编写的恶意软件。
WormGPT基于2021年的开源模型LLM GPT-J进行开发，其工作方式与ChatGPT类似，可以处理人类自然语言的请求，并生成相应的内容，包括故事、摘要和代码。不过，与OpenAI或谷歌等大型公司不同，WormGPT无需承担相关的法律义务。
SlashNext介绍说，WormGPT通过在各种数据源上进行训练，尤其是与恶意软件有关的数据，将输出结果与道德无关，可以被要求执行各种恶意任务，包括创建恶意软件和进行与黑帽相关的活动，对网络犯罪分子来说无疑是一种利器。
网络安全专家Adrianus Warmenhoven认为，WormGPT就像是ChatGPT的邪恶双胞胎，它是为了规避OpenAI对ChatGPT不断加强的限制而产生的。
为了深入评估WormGPT可能的危险性，SlashNext团队进行了以商业电子邮件泄露（BEC）攻击为重点的测试。测试中，他们要求WormGPT生成一封电子邮件，内容是向毫无警惕心的账户经理施压，迫使其支付虚假发票。
测试结果让SlashNext对WormGPT的危险性感到忧虑，他们称“结果令人非常不安”，所生成的电子邮件不仅极具说服力，而且在战略上非常狡猾，展示了它在复杂的网络钓鱼和BEC攻击中的潜在威力。
事实上，除了WormGPT可以编写恶意软件、助力BEC攻击之外，上个月ChatGPT中的安全漏洞也证实了一个事实：尽管OpenAI等公司采取了许多限制措施，但目前还无法完全避免此类漏洞的出现
京公网安备 11010802035086号