官方点名！“自愿”骂人的雷军，揭开百亿灰产（组图）

nyyanghui

真实的雷军，在庆贺小米Su7在11期间爆单6000辆。

虚伪的雷军，却在短视频平台口吐芳香。

11期间，不少打着“雷军骂人”标题的视频火爆全网。
视频中，雷军操着标记性的声响疯狂吐槽，一会要开着小米Su7创人，一会则对着调休轨制开启喷子模式。

要不是发言太离谱，这些语音真的有些虚实难辨。
当有网友在本尊的账号上面提及此事时，雷军回复了三个发怒的心情。

要知道，雷军能够说是一切大佬中对网友玩梗最宽容的一名了。
从过来把“Are you OK？”的创作者正式收编，再到往年初把“军儿，收手吧”放到公布会，雷军用风趣和宽容的态度博得了不少网友的好感。

然而面对众多的AI玩梗，雷军本尊也忍不了。
平时不怎么对网梗出警的小米法务部也迅速行为，曾经走上了法律顺序。

固然，AI配音的受益者也不止雷军，不管国际外，AI配音曾经成为让各路大佬和执法人员头疼的“致命玩笑”。
上到作伪证搅扰司法顺序，下到明星的私密照片，乃至美国大选都难逃AI的搅扰。
AI，怎么就成为了大佬们的肘腋之患？

从特朗普到雷军，都难逃AI“毒手”
不管中外，把名人“AI”一下，都是网友最热中的高兴源泉。
用AI捏造别人的形象、声响、影象，一致称为“Deep Fake（深度捏造）”。
在B站，“美国总统锐评”系列一度成为最热的梗。

视频里，奥巴马、特朗普和拜登会把最火的动漫角色，到热映大片挨个吐槽一遍再做个排名，语气之天然彻底不比是演的。
对不少热中音乐的网友来讲，AI更是本人“梦想成真”的神器。
好比，用AI孙燕姿的声响唱周杰伦的歌，让欧美巨星碧昂丝说一嘴正宗的北京话...

固然，玩梗文娱只是AI工具最浮浅的用处之一。
在弱小功用的加持下，AI成为了不少心胸鬼胎之人手中的利器。
女明星是最先受灾的一批人，顶流巨星“霉霉”泰勒·斯威夫特就惨遭“AI涉黄”。
各种换脸不雅观照在X（推特）上疯狂流窜，一张捏造图片在一天内就获取了4700万次阅读，吓得X平台间接屏蔽了“泰勒·斯威夫特”的症结词搜寻。

这条动静乃至惹起了白宫办公室的留意，白宫旧事发言人让-皮埃尔表现：“网络上的执法不严对女性影响更大，她们是遭到网络骚扰和欺凌的次要指标。”
明星们的桃色照片只是大事，深度捏造早就把手伸向了美国大选。
在中国视频平台上锐评“二次元waifu”的美国总统，可能今天就会给美国新罕布什尔州的普通居民打电话，让其“不要给本人投票”。

平时本就诚实的美国红脖子可不会分辨这是否AI，每个总统均可能由于一段捏造的录音录相丢掉选票。
都不必关怀美国大选，AI早就开始给国际的案件添乱。
不久前哄动全网的小杨哥塌房事情中，就有AI推波助澜。

在网友狂扒小杨哥猛料时，一条据称是三只羊董事长卢文庆的13分钟语音被暴光。
语音中，卢文庆大爆猛料，言辞剧烈，外面所透露的劲爆内容诱发了网友对三只羊的口诛笔伐和有限料想。
很快，合肥市警方证实，这条语音信息是由AI捏造而成。

只管三只羊诈骗消费者在先，活该被监管部门处分，然而用这类卑劣手法辟谣争光，也是对大众的一种不担任任。
但不论是美国大选，仍是三只羊塌房，不少非法份子正在以AI作为武器，用一种非常优良的伎俩入侵每集体的糊口。
AI的风险性，曾经不容无视。

众星捧月的AI，越卷越“灰”
自打降生以来，大部份打工人对AI的态度都只要一点：
这玩意究竟能不克不及替代我的任务？
但如今，本来构想中“更智能、更万能”的AI似乎还为降生，大部份人对AI的迭代愈来愈感到麻痹。

不外，AI虽然没有在智商上冲破，但卷向了另外一个反向：更好用。
过来训练AI，往往需求精晓数据和编程的专业人士对AI进行定点、定向的海量数据投放。
而在如今，这一任务曾经能够被AI替代实现，部份AI运用的训练曾经变得分外简略，门外汉也能轻松上手。
这一后果很快在深度捏造畛域失掉了运用。
在AI雷军和卢文庆捏造语音诱发哄动后，一家名为言域科技的公司很快就出来“认领效果”，他们开发的Reecho睿声，就是这两个事情面前的主力软件。

Reecho睿声就主打克隆声响功用，只有导入对应音频，就可以克隆对方的声响，导入的素材越多，克隆的也就越像。
AI配音早就不稀罕了，但作为成立不到一年的新公司，言域科技比拟于老先辈们，主打卖点就是“好上手”。
专业人士引见，过来AI抓取人们的“声响指纹”可能需求数十甚至上百分钟的音频素材，而如今，可能只有几分钟就可以实现抓取。
好比，去年人们在AI网站上克隆孙燕姿的声响，需求SoVITS 训练模型，最少要求仿造者有一定编程根底，且对电脑硬件有硬性要求。
到了如今的Reecho睿声，人们只需求5～8s的语音素材，就可以体验到收费的声响克隆办事。

而精度更高的付费克隆选项里，只有花几百元就可以上传更多的语音素材，打造更为拟真的AI语音。
睿声的精度曾经远超人们想象，在三只羊“录音门”傍边生成的卢文庆语音，就是由一段30s摆布的语音作为素材生成而来。
更何况诸如雷军等大佬的声响简直全网都是，随意截取一段公布会发言就可以获取数个小时的语音包。

只用花几百元，就可能改动一个大众大佬在不少网友中的形象。
如斯简略的“作假”本钱，也是深度捏造如斯风险的缘故。
只管睿声的技术还不是天花板级别的成熟，有用户说，本人使用睿声生成的语音在10s之后就“没法听了”。
但关于心怀叵测之人来讲，短短10s就足以兴妖作怪。
在睿声的“语音市场”中，除了雷军，还有诸如马保国、孙燕姿、杨幂和成龙等人的声响摹拟，大众人物的语音就像是游戏中的皮肤同样探囊取物。

固然，言域科技只是语音克隆功用愈来愈下沉的推手之一。
诸如剪映和豆包等剪辑软件，也把“生成本人的语音”作为卖点之一，用户只有输出一段本人的语音，就可以生成和本人拟真的声响。
以语音AI为首的深度捏造技术，曾经成为国际各大厂都在卷的标的目的之一。
在中国，智能语音市场范围曾经在2023年达到382亿元，预计往年则会涨到469亿元。
大厂们砸进AI里的金钱和技术，极可能变为砸向本人的盘旋镖。

AI煽起的邪火，需求三招弹压
用AI深度捏造诱发的“变乱”愈来愈常见。
在往年，一名无锡的父亲就接到了英国留学“儿子”打来的求助电话。

在通过警方鉴别之后，才发现这条信息是由非法份子制造的AI语音。
如今的深度模仿技术，就连长时间混迹互联网的年老人都难以鉴别，更何况平时不怎么上网的中老年人了。
面对疯狂进化的AI技术，假如不加以遏制，极可能会成为全部社会的要挟。
版权缘故，是得多大众人物对深度仿造AI停火的次要武器。
在往年5月份，美国影星斯嘉丽·约翰逊就对AI巨头Open AI提起诉讼。
缘故很简略，Open AI已经约请她为Chat GPT进行配音，斯嘉丽并无承受这一邀约。

但之后在Chat GPT更新的语音零碎包中，就泛起了和斯嘉丽高度雷同的配音声响，就连身旁亲友都无奈分辨虚实。
很显著，这是Open AI用斯嘉丽的声响本人训练出的后果。
在通过一系列起诉和训斥之后，终究Open AI停用了这一功用。

然而斯嘉丽的成功只是临时的，有话语权的大众人物可以等闲用本人的影响力避雷侵权行动，关于普通人来讲，这样的做法无疑代价很高。
一些AI公司就是针对这一焦虑，推出了“用魔法击败魔法”的反AI甄别运用。
在过来，AI制造往往有着很显著的“AI痕迹”，普通人都能随便甄别，然而跟着AI技术愈来愈传神，这些细节也越藏越深。

美国语音模仿AI公司ElevenLabs ，就已经推出过一款甄别AI的语音软件，然而据记者测试，这款软件的正确率只要50%摆布。
并且还有用户发现，假如给AI生成的语音加之一些乐音处置，就可以极大水平地规避被“反AI软件”甄别的几率。
但如今，努力于AI甄别的钻研曾经成为业界攻关的指标，国际外顶尖的AI名目组都在就“甄别AI”进行课题攻关。

往年早些时分，一名中科院的钻研人员就开源了本人研发的甄别AI仿造图象的大模型；浙大与清华大学业联结推出了反AI语音的运用SafeEar。
技术高速开展的如今，“魔高一尺道高一丈”曾经不是难点。
但反AI技术能否真正成为维护普通人的屏障，还得看大厂有无真金白银的投入。
版权伎俩欠好使、技术伎俩未完美，绝大少数普通人寄但愿于平台和监管。

但关于平台来讲，监管未尝不是一件难事。
在AI模仿拜登打电话事情产生后，美国AI语音运用ElevenLabs立刻住手了对于拜登、特朗普等政治人物的语音权限。
但很快就有人发现，假如在上传的语音素材中参加一分钟空白，就可以规避此类审查。

国际市场也在踊跃调剂，在往年9月份，网信办也公布了《人工智能生成分解内容标识方法（征求意见稿）》。
其中规则，由AI生成的视频、语音、图象等素材，必需标注AI生成的字样。
然而关于愈来愈下沉的AI运用来讲，一条规范只能从行动品德层面束缚用户，而不克不及真正根绝AI被滥用。

说究竟，AI只是人类发明的一个“好用的”工具，工具自身不分善恶，其性质彻底取决于使用者的目的。
只不外，在人类沉浸于开发工具的可能性时，必需要畏敬其发生的结果。
科技必需提高，但兽性不克不及脱缰。

华人澳洲中文论坛

热图推荐

官方点名！“自愿”骂人的雷军，揭开百亿灰产（组图）

发表回复

nyyanghui
关注TA

图文推荐

华人澳洲中文论坛

热图推荐

官方点名！“自愿”骂人的雷军，揭开百亿灰产（组图）

发表回复

nyyanghui 关注TA

图文推荐

nyyanghui
关注TA