您当前的位置:首页 > 电脑百科 > 安全防护 > 资讯

AI工具成网络犯罪香饽饽?研究发现俄罗斯黑客正绕过OpenAI限制访问ChatGPT

时间:2023-01-18 13:07:22  来源:  作者:极客网

根据行业媒体的报道,由于担心ChatGPT这款强大的聊天机器人可能被用于犯罪活动,OpenAI对一些国家和地区的应用进行了限制。但研究发现,来自俄罗斯的一些网络犯罪分子为了采用ChatGPT,一直在试图寻找新的方法来绕过现有的限制措施,并发现了包括绕过IP、支付卡和电话号码限制措施的案例。


研究人员在黑客论坛上发现俄罗斯黑客试图绕过限制以访问ChatGPT的

自从2022年11月推出以来,ChatGPT已经成为开发人员、作家和学生的重要工作流程工具,但也成为了能够被网络犯罪分子利用的有力武器,有证据表明黑客使用它来编写恶意代码和改进钓鱼电子邮件。

ChatGPT可能被用于恶意目的,这意味着OpenAI需要限制该工具的部署方式,因为黑客采用ChatGPT能够更快地实施恶意攻击。OpenAI为此采用地理位置屏蔽措施,以阻止俄罗斯用户访问该系统。

但是,Check Point Software研究人员在地下黑客论坛上发现了多个来自俄罗斯的黑客谈论如何规避这些限制的案例。例如,来自俄罗斯的一个黑客团伙在论坛上提出了一个问题——如果他们无法正常进入ChatGPT,如何使用被盗的支付卡支付OpenAI账户,并使用API访问系统?该系统目前是一个免费使用的预览版,而API包括文本和代码生成会话期间使用代币支付费用。

Check Point威胁情报部门经理Sergey Shykevich表示,绕过OpenAI的限制措施并不是特别困难,“我们现在看到俄罗斯的一些黑客已经在讨论和检查如何越过地理围栏,并将ChatGPT用于他们的恶意目的。我们认为这些黑客很可能试图在他们的网络犯罪活动中测试和采用ChatGPT。网络犯罪分子对ChatGPT越来越感兴趣,因为它背后的人工智能技术可以让他们的网络攻击更加高效。”

这些地下黑客论坛还提供了一些俄语教程,提供半合法的在线短信服务,以及如何使用它们注册ChatGPT,使得看起来是在没有被屏蔽的其他国家使用ChatGPT。

黑客从这些论坛上得知,他们只需要支付2美分购买一个虚拟号码,然后用这个号码从OpenAI获取代码。这些临时的电话号码可以来自世界上任何地方,也可以根据需要生成新号码。

Infostealer和ChatGPT的恶意使用

在此之前的调查发现了网络犯罪分子在这些黑客论坛上发布如何利用ChatGPT进行非法活动的例子。这其中包括创建很简单的Infostealer。随着人工智能工具的广泛使用,这些Infostealer将会变得更加先进。

Infostealer是采用这些“简单工具”的一个例子,它出现在一个黑客论坛上的一篇名为“ChatGPT——恶意软件的好处”的帖子上。发布这个帖子的作者指出,黑客可以使用ChatGPT,通过向人工智能工具输入描述和报告来重新创建恶意软件,然后共享基于Python/ target=_blank class=infotextkey>Python的窃取代码,该代码可以搜索常见的文件类型,将它们复制到随机文件夹,并将它们上传到硬编码的FTP服务器。

Shykevich说。“网络罪犯分子发现ChatGPT很有吸引力。在最近几周,我们发现了黑客开始使用ChatGPT编写恶意代码的证据。ChatGPT有可能为黑客提供一个良好的起点从而加快网络攻击的进程。正如ChatGPT可以用于帮助开发人员编写代码一样,它也可以用于恶意目的。”

OpenAI表示,已经采取措施限制ChatGPT的使用,包括限制可以发出的请求类型,但有些请求可能会被遗漏。也有证据表明,其提示被用来“欺骗”ChatGPT,以研究为幌子或作为虚构的示例,可以提供可能有害的代码示例。

ChatGPT和潜在的错误信息

与此同时,OpenAI正在与乔治敦大学安全和新兴技术中心以及斯坦福互联网天文台合作,研究大型语言模型(例如ChatGPT的基础GPT-3)可能被用来传播虚假信息的方式。

这种模型可用于降低运营影响力行动的成本,使其处于新型网络犯罪分子的可控范围内,而以前只有大型参与者才能访问这类内容。同样,能够自动制作文本的招聘人员可能会获得新的竞争优势。

黑客利用ChatGPT还会导致不同的行为,加大网络攻击规模,并且与人工创建相比允许创建更多的个性化和针对性内容。最后,他们发现文本生成工具能够生成更有影响力和更有说服力的信息,相比之下,大多数人工生成的宣传文档通常是黑客可能缺乏目标所需的语言或文化知识。

OpenAI的研究人员宣称:“我们的基本判断是,语言模型对品牌的宣传者很有用,并可能改变在线影响力的运营。即使最先进的模型是加密的,或者通过应用程序编程接口(API)访问来控制,宣传者也可能会倾向于采用开源的替代方案。”



Tags:OpenAI   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
根据行业媒体的报道,由于担心ChatGPT这款强大的聊天机器人可能被用于犯罪活动,OpenAI对一些国家和地区的应用进行了限制。但研究发现,来自俄罗斯的一些网络犯罪分子为了采用Cha...【详细内容】
2023-01-18  Tags: OpenAI  点击:(0)  评论:(0)  加入收藏
机器之心报道编辑:泽南、蛋酱 「对学生有负面影响」,这么大责任 OpenAI 可担不起。 语言生成模型来了,学校的作业会不会从此变得形同虚设?近日,纽约市教育官员宣布禁止学生在公立...【详细内容】
2023-01-11  Tags: OpenAI  点击:(12)  评论:(0)  加入收藏
说到AI、人工智能、人机对话,你会想到什么?OpenAI发布的一款名ChatGPT的新模型,通过使用机器学习和人工智能算法来模拟人类的对话。它能够根据用户的输入自动生成相应的回复,并...【详细内容】
2023-01-10  Tags: OpenAI  点击:(12)  评论:(0)  加入收藏
新浪科技讯 北京时间1月9日早间消息,据报道,知情人士透露,微软希望将OpenAI的人工智能技术整合到Word、Outlook和Powerpoint等应用中,为Office用户提供一种新的编写文本的方式。...【详细内容】
2023-01-09  Tags: OpenAI  点击:(7)  评论:(0)  加入收藏
上个月安利了一波:机器学习自动补全代(hán)码(shù)神器,然后就被打脸了,Github 宣布 copilot 要开始收费了。 Github 和 OpenAI 一样,遇到微软之后就慢慢丧失灵魂...【详细内容】
2022-07-12  Tags: OpenAI  点击:(378)  评论:(0)  加入收藏
▌简易百科推荐
根据行业媒体的报道,由于担心ChatGPT这款强大的聊天机器人可能被用于犯罪活动,OpenAI对一些国家和地区的应用进行了限制。但研究发现,来自俄罗斯的一些网络犯罪分子为了采用Cha...【详细内容】
2023-01-18  极客网     Tags:OpenAI   点击:(0)  评论:(0)  加入收藏
PyTorch机器学习框架遭遇恶意依赖供应链链攻击。与Keras 和 TensorFlow类似,PyTorch是基于Python的开源机器学习框架。PyTorch广泛用于计算机视觉和自然语言处理任务。12月31...【详细内容】
2023-01-08  嘶吼RoarTalk     Tags:供应链攻击   点击:(5)  评论:(0)  加入收藏
随着对技术的依赖不断增加,我们对技术的信任也在随之增加。如今,我们习惯将自己的私人数据委托给各种在线平台,如银行账户、电子商务零售商、加密货币交易所和电子邮件服务提...【详细内容】
2022-12-27  嘶吼RoarTalk     Tags:隐私   点击:(18)  评论:(0)  加入收藏
远程工作模式日渐盛行,新冠疫情促使在线商务如火如荼,随着企业继续应对与这两个因素相关的网络威胁,网络安全已上升到企业议程的首位。据知名调研公司Gartner的研究显示,88%的董...【详细内容】
2022-12-24  嘶吼RoarTalk     Tags:网络安全   点击:(16)  评论:(0)  加入收藏
0day多伦多Pwn2Own黑客大赛展示了针对消费科技产品的 63 次0day攻击,参赛者收入 989,750 美元。 在这次黑客竞赛中,26 个团队和安全研究人员将目标设备设在手机、家庭自动化集...【详细内容】
2022-12-19  安全圈    Tags:漏洞   点击:(38)  评论:(0)  加入收藏
《华尔街日报》12月7日消息,苹果公司计划大幅扩大其数据加密做法,在该公司继续为数百万iPhone用户建立新的隐私保护措施之际,此举可能会与世界各地的执法部门和政府产生摩擦。...【详细内容】
2022-12-08   界面新闻     Tags:黑客   点击:(28)  评论:(0)  加入收藏
最近安全专家在研究中发现有多个恶意的Chrome扩展插件和浏览器劫机者(Browser Hijackers)感染了超过200万用户。浏览器劫机者是一种不受欢迎的程序,它在没有用户许可的情况下...【详细内容】
2022-11-24  血超级厚的土豆  今日头条  Tags:黑色产业链   点击:(37)  评论:(0)  加入收藏
11月11日,在FTX宣布破产数小时后,FTX的APP在深夜遭到攻击,超过6亿美元从FTX的加密钱包中被盗走。随后,FTX官方确认它已被入侵,指示用户不要安装任何新升级并删除所有FTX应用程序。...【详细内容】
2022-11-15  界面新闻    Tags:FTX   点击:(61)  评论:(0)  加入收藏
据央视新闻报道,当地时间24日,韩国国防部发布消息称,韩国军队当天首次参加美国主导的“网络旗帜”多国联合网络攻防演习。报道称,该演习在美国弗吉尼亚州举行,韩军网络作战司令部...【详细内容】
2022-10-25    北京日报客户端  Tags:网络战   点击:(44)  评论:(0)  加入收藏
我们强烈反对网络犯罪和非法行为,国家也一直在持续地高压打击。今天看到一个相关新闻:“两个黑客租用境外服务器搭建DDOS网络攻击平台,帮助他人攻击网站从中获利。其中一个黑客...【详细内容】
2022-10-12  张美波     Tags:网络安全   点击:(45)  评论:(0)  加入收藏
站内最新
站内热门
站内头条