|
|
原标题：兄弟，阿谁帮爷爷卖茶叶的仁慈女孩，多是ChatGPT
詹士 发自 凹非寺
量子位 | 大众号 QbitAI
ChatGPT，愈来愈刑了!
已有非法份子将其“装扮成”年老女孩，放社交软件上，诱惑男性上钩，进而实行欺骗。
mewt32fueuw.jpg
△面向中国市场，多是个敌人圈里的卖茶女孩
事实上，据Forbes最新动静，ChatGPT非法用处还不止于此。
它不只能编写顺序，监督键盘输出信息，也能本人生成勒索软件，乃至，还有人用其编写暗网上毒品买卖市场各种功用的代码。而对得多不长于英语的异国黑客，ChatGPT也是协助生成英文钓渔网站绝佳从犯。
平安钻研机构（如Check Point）已关注到了ChatGPT被用于非法行径的问题，诱发得多网友热议。
有人感叹：这还只是开始。
也有人提议，要本人构建个ChatGPT聊天机器人，与欺骗聊天机器人唠唠，会产生甚么？
所以，ChatGPT是如何被“带坏”的？
ChatGPT歹意关上形式有几种？
ChatGPT在2022年十一月刚公布时，就有不少人预测，它可能被用于不法网络犯法。
乃至有人亲身下场，实验了一下用ChatGPT如何触碰网络犯法红线。
从构建鱼叉式网络钓鱼邮件，到运转能承受英语命令的反向shell，ChatGPT都能Hold住。
展开全文
wtk2p1nuoj5.jpg
△ChatGPT生成的钓鱼邮件
值得明白的是，上述都停留在“假定”与“正告”中。
直到这两天，IT平安公司Check Point表现，他们找到了切当证据。经过对几个主流公开黑客社区论坛的剖析，调研者发现：
已有第一批网络犯法份子使用OpenAI开发歹意工具，他们中，乃至有人没有代码开发才能。
已有第一批网络犯法份子使用OpenAI开发歹意工具，他们中，乃至有人没有代码开发才能。
mrugeokprcx.jpg
为证实所言不虚，调研者分享了一些案例。
好比2022年十二月29日的一篇帖子，它来自公开黑客论坛，名为《ChatGPT-作为歹意软件的益处》。
帖子作者表现，他曾经在尝试用ChatGPT创立歹意软件，随文还分享出一段基于 Python 的盗取器的代码。
该顺序会搜寻十二种常见文件类型，好比Office文档、PDF及图片，当发现特定文件后，顺序会将它们复制到Temp文件夹内，紧缩并上传到FTP办事器。
网络平安剖析者还指出，该顺序发送文件过程当中并未加密，因此，第三方也可能获取上述传输的文件。
av24rdujrvu.jpg
该帖子作者还分享了一段Java代码，它将下载PuTTY。这是一个常见的SSH和telnet客户端，歹意代码将使用Powershell在零碎中机密运转它。经过修正脚本，能下载任何歹意软件。
aymsiwiwgmy.jpg
值得留意的是，这位发帖者是公开黑客论坛活泼份子，曾参预多个不法脚本开发，好比一个试图经过网络钓鱼获取用户敏感信息的C++顺序。他还分享过Android RAT和SpyNote的破解版。
网络平安机构调研者以为，这人是个技术能手，这篇帖子是个教程，旨在向低开发才能的非法份子展现利用ChatGPT的办法及实例。
假如上述帖子是技术派带坏ChatGPT的代表，上面一篇帖子，就是门外汉利用AI作恶的旁证。
这位名为USDoD的黑客公布了一个原创脚本，特地强调这是他创立的第一个脚本。下方有人指出该代码很像AI生成代码时，他也抵赖，OpenAI提供了一个“好帮手”。
其功用是对单个文件加密，并将动静认证码 （MAC）附在文件末尾，也能将硬编码门路加密，并解密参数文件列表。
只管上述代码可用于合刑场景，然而，一旦部份脚本与语法问题加以调剂，它就可以变为一个勒索软件。
该发帖者是一名技术不强的活泼份子，曾发售被盗数据库拜候权，比来还同享过InfraGard数据库。
5ccsx1oqga2.jpg
比拟生成脚本与代码，更多非法份子专一于用ChatGPT从事更易上手的不法买卖。
一篇2022年十二月31日的帖子探讨了——用ChatGPT在暗网创立不法商品市场有多容易。
内容中，波及买卖的物品包罗被盗账户、银行卡、歹意软件，乃至毒品和枪械，付款形式以加密货泉进行。
p3p4ou4mr1u.jpg
其余公开论坛中，也有至关一部份帖子探讨如何利用ChatGPT进行欺骗的手法。
有网络平安调研机构向媒体表现，已有欺骗者希图利用ChatGPT创立聊天bot，模仿女孩聊天，用以低本钱和受益男性聊天，博取他们信赖，从而实行欺骗。
Check Point调研者增补道，只管ChatGPT所生成的歹意软件及代码很根底，不成能像此前攻破爱尔兰卫生零碎的Conti同样粗劣，但其潜伏危害在于升高了老手守法的门坎。
他持续增补，该门坎不只针对技术，关于不长于英语的各国黑客，ChatGPT也是生成合法钓鱼邮件的“绝佳工具”。在钓鱼邮件犯法中，AI也可能被用于共性化生成内容。
值得一提的是，在公开黑客论坛，对于在灰色地带靠ChatGPT获利的探讨内容也不少。有内容探讨如何用AI疾速发明网文、电子书并销售获利，另外一部份内容探讨了用OpenAI另外一个模型DALLE-2生成图片并发售的操作。
rkdrld0pqdp.jpg
对于上述要挟，也有人去问了问ChatGPT的看法。
AI以为，这种景象其实不稀有，并列出常见手法。
更值得留意的是，ChatGPT在开头很“机灵”、“公关”地替母公司给出一套辩护说辞：
值得留意的是，OpenAI自身其实不对第三方滥用技术的行动担任，公司已采用了相干措施避免技术被用于歹意目的，好比出台条款要求用户赞成——阻止将其技术用于不法或无害流动。
值得留意的是，OpenAI自身其实不对第三方滥用技术的行动担任，公司已采用了相干措施避免技术被用于歹意目的，好比出台条款要求用户赞成——阻止将其技术用于不法或无害流动。
l5icjtxu552.jpg
最初问问，对滥用ChatGPT景象，你有解决计划么？
参考链接：
[1]http://www.forbes.com/sites/thomasbrewster/2023/01/06/chatgpt-cybercriminal-malware-female-chatbots/?sh=1f13474c5534
[2]http://research.checkpoint.com/2023/opwnai-cybercriminals-starting-to-use-chatgpt/
— 完—
「人工智能」、「智能汽车」微信社群邀你参加！
欢送关注人工智能、智能汽车的小火伴们参加交流群，与AI从业者交流、切磋，不错过最新行业开展&技术停顿。
PS. 加好友请务必备注您的姓名-公司-职位噢 ~
点这里 ?关注我，记得标星哦～
一键三连「分享」、「点赞」和「在看」
科技前沿停顿日日相见 ~ |
|
中级会员