|
|
10分钟，骗走430万。
无所不克不及的AI，再次刷新了瞒天过海的速度。
yavw5w33spc.jpg
比来，“AI欺骗正在全国发作，欺骗胜利率接近100%”登顶了热搜第一，中国警方在线也紧迫提示大家反诈。
bvab0t5rnxs.jpg
这次被AI耍的团团转的，没想到是一名科技公司的老板。
老郭的好友给他打了一通微信视频，说本人的敌人在外埠招标，需求430万元包管金，且需求公对公账户过账，所以想要借用郭学生公司的账户走一下账。
在这通微信视频里，对方先要了老郭的银行卡号，宣称曾经打了钱，乃至还发了银行转账截图。
又是视频聊天，又是转账记载，谁都猜不出来对面是个AI假人。
c103umhlx1x.jpg
后果，老郭没有核实钱是不是到账，迅速把430万打过来了。
直到钱款转账后，老郭给好友微信发了一条动静，称事件曾经办好。但让他没想到的是，好友回过去的动静居然是一个问号。
他这才意想到居然赶上了“高端”骗局，对方经过智能AI换脸技术，佯装成好友对他实行了欺骗。
zswcwa4repd.jpg
骗子关于AI技术的应用之快、应用水平之高使人咋舌——AI换脸、AI换声，阻拦微信号，简直无一不出自AI技术之手。
最恐惧的是效力之快，全部进程不外短短非常钟。
谷歌前CEO以前就收回正告，“AI被滥用早晚会要挟人类生存”，但那时不少人感觉是庸人自扰。
“完全黑化”的AI欺骗，究竟是如何一步步瞒天过海的？
04wzg4shq3d.jpg
这两年，AI换脸曾经不是陈腐事。
AI技术一秒整容，baby的脸变为热巴，这样的视频从一开始的惊掉下巴到如今的怪罪不怪。
yn0f05xepgm.jpg
有些直播间发现商机，干脆用AI换脸的杨幂、迪丽热巴在直播间卖货。
xu3e4brvl1c.jpg
小到恶搞名人，自娱自乐。
好比，以前有国外网友用Midjourney生成“教皇穿羽绒服”，图片品质之高彻底做到了以假乱真，被阅读了2800多万次，还惹起了不小的骚动。
qsqu3rqr1iz.jpg
前不久，日本的一名女议员在网上大火。
在大部份人的印象中，议员这个职位老是庄重而且激进的，按照网上的信息，这位女议员是日本内阁的“厚生休息大臣”。
作为日本内阁中首要的职位之一，这位女议员却过于“心旷神怡”了。
akk4n4ikclq.jpg
表面和身份所带来的反差感，让这位女议员在推特上积攒了超高的人气，只有有她的照片，随意一发都能带来几百万点击量。
还有美国前总统特朗普被警察拘捕，编写的有鼻子有眼，并且有图有假相。
就冲这酷似视频截图的画质，得多人似乎以为特朗普真被抓了。
e0satv0pfhf.jpg
大到一张AI图片，就可以让股价暴涨。
就在这周一，美国国防部五角大楼爆炸、浓烟滚滚的造假照片在网上疯传，惹起了不小恐慌。
因为当下没有能够穿插比对的旧事报导，得多网友都信认为真。
fhm3lb31q01.jpg
后果，美股闻讯一度暴涨，这多是人工智能生成图片影响市场的首例。
美国许多视察家以为，这张疑为AI生成的照片经由多个帐号分布出去，迫使国防部露面廓清五角大楼并未产生爆炸。
最初，美国防部发言人说：“咱们能够证明这是假动静，五角大楼并未受到攻打。”
真是辟谣一秒钟，造谣一终日。
4waz3rvsqs1.jpg
而当AI“以假乱真”的作图技术，遇到ChatGPT“瞬间写作”的才能，会产生甚么？
后果是，更放飞自我了。
前不久，估量得多刀哥读者也看到这样一条旧事—— 22岁的加拿大小哥为了在韩国顺利出道，以防弹少年团的朴智旻为模版，整容了十二次，破费了上百万。
逐日邮报报导，最初可怜丧命。
cigj1ozrhuu.jpg
在这条旧事上面，得多人痛批韩娱的畸形审美、整容就是圈钱，后果被证明是AI炮制的假旧事。
乃至你会发现，有了AI的“加持”，流量就可以轻松拿捏。
甘肃平凉市公安局崆峒分局网安大队发现，多达21个网站上同步泛起了一条当地“旧事”：《痛心！甘肃一火车撞上修路工人，致9人死亡。》
如斯耸人听闻的标题外加大体量的集中报导，这条“旧事”的点击量迅速爆炸。
o2rxmpyisca.jpg
本地网警立刻染指，考察后发现，犯法嫌疑人就是利用了AI技术进行的旧事造假。
他先是购买了少量账号，再经过ChatGPT全网抓取社会热点旧事素材，简略修正一番就可以避开平台的查重审查，炮制出假旧事。
为的就是在各大平台获得流质变现。
广州一个女孩只是在小红书上，发了张本人坐地铁出门的普通照片，没想到却被人用AI“一键脱衣”，并配上虚拟的文字造黄谣。
c1rcvw2pwic.jpg
在时间、地点都对得上的状况下，搭配AI弱小的算法，谎言满天飞。
vroggoxwwro.jpg
当骗子具有AI，胜利率飙到100%
假如说后期AI的“黑化”还停留在恶搞和辟谣，那末直到受骗子盯上时：
冲破想象的骗局才刚刚开始。
好比在10分钟骗走430万这个欺骗中，中心波及了AI换脸以及语音分解这两个技术。
无关AI 换脸软件，少数是AI深度捏造（Deepfake）技术的化身，最后源于一个名为 “deepfakes” 用户。
Deepfake 最后的用法，局限性还较大，只能对已有视频进行前期“换脸”。
好比，把《射雕英雄传》里的朱茵换成杨幂，五年前就完成了。
syxy2jk20hq.jpg
原理就是把视频联系成一张张延续图片，将每一个张图片中的脸进行交换，最初将整个交换后的图片再分解视频。
但是跟着 AI 技术的逐步开展，最使人耽心的事件仍是产生了：用 AI 能够实时“换脸”了。
好比，上面这个换脸速度和传神水平，只要一个字：绝。
乃至本钱也愈来愈低，分解一个静态视频，本钱也仅在2元至10元。
有行业内人士爆料，“客户”往往是成千盈百购买，牟利空间微小。
至于面向更精准、更实时的大型直播平台，视频实时换脸的全套模型购卖价格在3.5万元，乃至不存在提早、也不会有bug。
至于像语音分解方面，技术成果也是愈来愈传神。
好比，过来骚扰电话只是欺骗，但当初就算欺骗不可，骗子经过骚扰电话录音等来提取你的声响，获得素材落后行声响分解。
这样一来，你的声响样本就受骗子轻松提取。
前段时间，微软公布了新模型VALL·E：只需3秒，就能复制任何人的声响，乃至连环境配景音都能模仿。
tqmccazr0ja.jpg
当这两项技术门坎和本钱变得愈来愈低时，骗子就嗅到了钱的滋味。
在南京，有人收到了本人大学同窗的QQ留言，说目前在病院，表姐住院了真的很焦急，急需3800元住院费。
这时候候，个别人还不会上当。
直到对方发过去一条视频，不只配景在病院，并且还打了声招呼，语音腔调都十分传神。
x1ix0j3bvtt.jpg
没想到，在他转账之后迅速被拉黑，最初发现视频原来是AI捏造的。
不久以前，西班牙的一家电影制造公司也遭遇了AI电话的欺骗，欺骗者假装成著名演员“卷福”。
大佬被动找上门，这让这家电影公司很兴奋。
但“AI卷福”说，“我对你们很感兴致，但需求公司先转20万英镑（约170万人民币）的定金，之后再谈详细的协作细节。”
vs4hlsonopd.jpg
三天前，美国CBS电视台的电视旧事杂志节目60 Minutes，现场展现了黑客是怎么样克隆声响来骗过共事，并胜利盗取护照信息的。
小到在网购、兼职、刷单的小钱 ，大到假冒客服、投资理财人员等身份，获得银行卡账号明码间接转一大笔账...
当骗子具有AI，欺骗胜利率简直到了100%。
AI的开展速度让外界始料未及，唱衰和正告的声响也愈来愈多。
五天前，英国首相苏纳克针对AI平安性收回的一则正告：英国将带头限度AI可能带来的风险。
马斯克更极端，乃至把AI比作将来人类文化最大的危险之一，要挟水平远高于车祸、飞机出事、毒品众多等，乃至比核武器都要风险很多。
这次AI欺骗全国发作，更让人感觉AI一旦作恶，就会让人防不堪防。
但这件事，也许其实不能彻底甩锅给AI自身。
首先，看待新科技，大忽悠们老是比普通人拥有更灵活的嗅觉。
好比，在比特币泛起之时，普通人当成谈资和旧事，可很快就有犯法团伙将其用于洗钱。
洗钱者在买卖所购买比特币，经过屡次转账和联系，使买卖链变得繁杂，破坏买卖记载的可跟踪性——最初，比特币转换为现金。
再好比，自封为联结国迷信技术组织的履行主席的向主席，胜利骗过了北京大学、清华、复旦等一众中国名校。
对外发行30亿比特币，差未几价值近200亿元人民币。
对互联网、区块链、元宇宙、AI，骗子的捞金KPI驱使着他们不停利用技术的暗中面。
骗子的欺骗伎俩无所不必其极，开发利用新技术的速度也使人张口结舌。
结 语：
快播开创人王欣在法庭上颁发的“技术无罪论”，但出狱后的王欣修改了他的观念：“技术是无罪的，但人会出错”。
不能不抵赖，AI骗局对大部份普通老黎民来讲，几乎就是灾害。
过来咱们始终说，“杀猪盘”的骗子不敢视频，假冒公检法的骗子不敢视频。
但如今，图片、声响、视频均可以造假。
在第七届世界智能大会上，中国迷信院院士管晓宏以为，平安性假如得不到包管，AI 零碎的运用将会遭到极大的应战。
OpenAI CEO在美国国会听证会上大声呐喊，世界应该要设立能够标准和监管AI 的独立机构。
乐观的想，AI欺骗门坎愈来愈低，不就象征着用AI反诈的本钱也在升高？
如今，谁更理解AI，谁就抉择了AI的“角色”。
不如让技术解决技术，用立法打败魔法。 |
|
注册会员