|
|
“你是否得罪了甚么人？”
你正在被数十万的网友意淫。
你的脸被AI分解在另外一个裸露的身材上，做着奇怪的姿态和举措。
wglcfszcs2l.jpg
xh2s0ctbxy0.jpg
有一群人用“荡妇”“母狗”等字眼来评论你，再编排上莫须有的身份，你成了“隔壁少妇”“清纯学妹”和“淫荡表妹”，而你的地址、电话号码乃至身份证号码被一并暴光。这所有的始作俑者，或许是身旁的普通同窗，协作共事，乃至是家人和密切爱人。
你对所有无所不知。直到被生疏人的骚扰信息打破。
往年蒲月，住在广东的95后女生小娜一股脑收到十几个生疏人的好友请求，加之其中一集体后，对方不光语言轻佻，还发来了她的糊口照和被盗脸的照片，问她“你是否得罪了甚么人？”
淫秽裸露画面里的人物，有着和她同样的脸，发图者还配文辟谣，一会儿说她是“前女友”，一会儿说她是“出轨街坊”，还把她的姓名、微信号码等集体信息都泄漏了出去。
“怎么会有人这么歹毒？”看到本人被盗脸的图片和视频的那一刻，小娜震惊又愤恨。
小娜由于这事睡不着觉，在床上翻来覆去地想，前共事乃至家人都疑心过，但她仍是无奈确认这个盗用本人照片的人。“一定要找到这集体，真的太过分了。”小娜说，本人不想相安无事，假如不给对方一个经验，当前会有更多人遭到挫伤，“他们就是感觉好像本人很平安，不会袒露。”
小娜和丈夫经过这几个生疏人提供的线索进入了有盗脸内容的国外社交软件Telegram。Telegram又叫“电报”，该平台不需求实名认证，信息点对点加密，最大水平上保障隐衷平安。该软件也因N号房事情被人熟知。在Telegram的群聊里，她发现了本人被盗脸的照片仅仅只是冰山一角。
k4uekeutl41.jpg
某电报群内的聊天信息，受访者供图
一个有20万人的大群，群里的动静全是由各种凌辱女性的文字和裸露的照片组成，小娜随意翻了翻，这些女孩都是普通的素人，“网红、明星很少”。
也就是说，盗脸、侵略隐衷的指标曾经转移向了普通人，许多女孩其实不知道她们的糊口照被人暗暗地换在了另外一个身材上，袒露给了更多生疏人以供意淫。
在Telegram里，这样打着AI换脸、一键脱衣标签的群聊还有得多。一名已经误入Telegram一个AI换脸群聊的女性用户告知「后浪钻研所」，群里有人打广告贩卖AI换脸软件，偶然也有“技术达人”提供收费换脸的流动，一大堆人拿着女性的照片“求换脸”，“他们说，这是他们的共事、同窗或者两小无猜。”
这些照片和文字给人的冲击很大。小娜说，看多了照片，有生理上的苦楚，失眠、脑鸣，“做梦都是那些恶心的货色”，轮作为男性的丈夫承受不了，几天也没睡好觉，“不置信人类会做出这样的事件。”
几天后，小娜去了本地派出所。事件一产生，她本打算靠本人揪出盗用照片的人，但仅凭几条线索无奈精确定位，发本人图片的账号也曾经登记，无法之下，她只能在没有切当证据的状况下报了警。
adcgn0rrr2y.jpg
小娜收到的报警回执，受访者供图
招待她的警察说，曾经有许多女性碰到了被AI盗脸的状况，但得多人不敢报案，由于她们不想让身旁人知道本人遭受了这样的事件。
AI盗脸曾经不是一个费解的话题了。
往年4月，抖音女网红Caro赖赖曾公布微博称本人被盗脸。赖赖说，有人在境外社交平台上假冒她注册账号，还以会员定阅的形式贩卖视频，这些视频都是AI盗脸的色情视频。
赖赖还提到：“我曾看到过一个网红名单，内外稀稀拉拉写满了我相熟的名字。他们按照博主的粉丝量级进行分类，假视频价钱在30-50元不等。但只有你花200元就能进群，进群后不只能够享用永远半价，乃至还能接‘公家定制’。”
赖赖的说法也揭开了AI盗脸的隐蔽产业链——掌握深度分解技术的非法份子，将明星、网红博主乃至素人的脸制造成色情照片和视频，乃至抛售AI换脸软件、技术以获得利益。
bfkclhvqri2.jpg
潘多拉的魔盒
在手机运用商店搜寻，不难发现，AI换脸功用在文娱运用板块也不算小众。
在抖音、美图秀秀等软件都能找到AI换脸的滤镜，市面上也有多款拥有AI换脸功用的软件。咱们随机下载了一款评分4.3分的APP——秀脸FacePlay。在AI换脸区，有美女换脸、古风换装等视频或图片模板可供选择。
初次上传图片时，APP会向用户引见AI换脸的任务原理，同时也会弹出提醒框，“请确保你使用的照片获取自己受权赞成，如因照片未受权对别人肖像权形成侵略所发生的法律责任由自己承当。”
除了文娱休闲之外，AI换脸的场景还作用在影视剧二次创作傍边，往年年终上映的电视剧《风雨送春归》就因演员换脸惹起过争议。
2019年，一款名叫“ZAO”的AI换脸APP走红，就曾惹起过侵略集体肖像权的耽忧。人脸数据收集和人脸分解技术的简略化，使得使用换脸软件的个面子临更大的隐衷泄漏危险。除此以外，还可能诱发色情、暴力等问题。
时间曾经过来近四年，当初，AI技术的换脸功用更加成熟广泛，有专家在承受媒体采访时表现，目前在主流社交平台公布的照片明晰度，大部份足够生成天然贴合度较高、难辨虚实的换脸照片和视频。即使明晰度较低，也能够经过AI补齐，进步换脸图象的贴合水平。
技术门坎升高，更大规模的遍及，使这些本应使用在公道场景的技术，成了非法份子的灰色武器。潘多拉的魔盒曾经关上。
ut2kiwbe4ir.jpg
某平台的AI换脸商品发问区内容
小娜被盗脸的照片和视频，使用了她的面部特点，脸型、气质其实不相反，小娜看着顺当，但她也不能不以为那些照片很传神“五官很像，有一种实在又不真正的觉得。”
00后大先生林林也是在5月份发现本人被色情照片盗脸了，这个女孩遭受了和“广州地铁女孩”相似的脱衣处置。有人在加之她的微信后，发给她用糊口照AI脱衣的照片，还用污秽的语言骚扰她。那张照片是她游览时拍的，身后还有许多游客。
林林给闺蜜看照片，她简直看不出图片有被处置过的痕迹，身材裸露部份的光影、肤色都绝不违和，“假如不是旁边人心情都正常（假如是真的裸体，一定会有目共睹），基本猜不到这是AI做的。”
令女孩们诧异的是，技术曾经如斯下沉，她们身旁某个普通人均可能掌握深度分解的技术，在她们不知道的状况下盗脸、生成视频。
有媒体报导，有商家能按照用户需要定制明星、素人专人换脸模型。提供的信息包罗被换脸对象在正常光线下的正脸、侧脸、侧下方、侧上方等各个角度画面，和喜怒哀乐等心情，制造一个素人模型的价钱在2600-6000元不等。
「后浪钻研所」尝试在网购平台搜寻，发现检索“AI换脸”这一症结词，曾经无奈搜寻就任何商品信息。但经过一些特殊辞汇，依然能找到一些销售AI换脸产品的店铺。
一个标着“去衣换衣换配景”的商品，仅售价16.6元，客服说，店铺不提供换脸办事，售卖的是软件和教程。进一步发问他，该软件能否真人去衣，他回答，“只可意会不成言传，真人收回来我店就没了。”页面显示，该商品一个月的销售量冲破100+次。
另外一家店的客服则间接让我添加微信好友，发来了几张换脸图成果，并告知我图片免费在30-50元不等，视频则按照时长免费在几十到几百元不等。另外，他还提出能够加盟，学费5000元，提供电脑顺序和近程演示进程，学会了，就能本人用技术换脸，乃至用来盈利。
他的支出使人咋舌，“我这个月快20W了。”
dibraowbanv.jpg
该店老板敌人圈公布的AI换脸作品
不外，这个老板分外小心，问他能否制造色情图片，他回答，“一张40，只有你不怕封号。”
但要真查究起责任，封号或许是最轻的处分。
据《方圆》杂志报导，近期，河北省高阳县网警破获一同制造、贩卖、传布淫秽物品牟利案。犯法嫌疑人李豪经过QQ群自学AI换脸技术，用明星图片制造淫秽视频在网上以每10分钟300元的价钱售卖，重大侵略了当事人的肖像权和声誉权。
李豪还提供“公家定制”办事，将买家提供的素人照片加工制造成淫秽视频或图片。目前，李豪被检察机关以涉嫌制造、复制、出版、贩卖、传布淫秽物品牟利罪提起公诉。
hnrfklvraik.jpg
维权的困难
但理想状况其实不乐观，当盗脸事情产生，普通人往往维权难题。
小娜报警曾经一个月了，进度还停留在做笔录那天。
盗用照片的人在境外软件发帖，无奈确认详细身份。像Telegram这样的平台，其实不会提供用户隐衷信息配合各国警方办案。
韩国N号房事情也降生于Telegram，其最后的报导者和报警人也在《N号房追踪记》一书中提到，一名受益者报警后失掉的回覆是“因为Telegram方不配合考察，所以无奈签发逮捕令”。
所以，只要受益者本人先找出嫌疑者，事件能力迎来转折。但这群人往往拥有较高的警觉性，在外网上简直不留痕迹，很难找出其实在身份。
小娜翻看那些被盗用的照片，发现简直都来自近期的敌人圈，并且她的敌人圈仅三天可见，每次发送也设置了好友分组，她剖析，这集体或许是本人身旁相熟的人，歹意蹲守，等她一发起态就当即搬运、换脸。
但这集体是谁呢？她又排除了有性骚扰前科的前共事，意识的敌人等等，真实想不出，“究竟得罪了谁”。她隐约地告知共事本人的照片被人发到外网上了，请大家帮助想一想谁有可能，但对方却开起了玩笑，“由于你长得美观吧”。
zs13yu5vhvt.jpg
图源视觉中国
找人无果，小娜逐步堕入了自责，“是否真的不该该在敌人圈发照片呢？”，她的耽心是，对方曾经袒露了她所在的城市，假如她亲热的家人、敌人、共事看见了，该怎么去面对和解释呢？
当初，小娜尝试着放下这件事，再也不紧张找人的事，“朝气、愤恨、无助，太影响本人的任务糊口了。我当初在调剂，但我不会保持追踪这个事。”
她改换了本人能被检索到的微信账号名，近期也不打算发任何有本人的照片的静态了。
另外一个被盗脸的女孩林林也有了心思暗影，她把本人的抖音账号设置成私密，敌人圈也从生疏人可见10张改为了三天可见。
她仍是没有查分明阿谁拿着AI盗脸照片来微信骚扰本人的人到底是谁，但由于被一键脱衣的还有她的室友，她告知对方，“你针对我就算了，我的室友是无辜的。”
对方应该是意识她的熟人，或许是良知发现，居然在跟她报歉之后删除了好友。
这件事就这样胡涂地完结了，林林原本不打算查究了，但闺蜜仍是逼她在微信和国度反诈核心举报了阿谁男生。
“他们就是口嗨罢了，但咱们像吃了哑吧亏。”林林的闺蜜说，阿谁发来盗脸照片的男生用语言耻辱了林林，但并无波及到金钱纠纷和详细的损失，无奈立案，而她们作为在校先生，比来疲于应付期末和学业，也基本没有精神去处置这件事，“维权本钱过高了。”
luo0udlerpa.jpg
赖赖发现的盗脸产业链，图源@Caro赖赖
此前地下被盗脸信息的网络红人赖赖也表现，举报账号后发现，在这些平台上涉黄其实不守法，而海内IP难以追踪，传到国际的视频也难以找到源头。
在赖赖的评论下，还有许多网友提到本人和身旁人的阅历，“已经的一个好敌人就由于盗脸退了学”、“有人小号给我发裸照，跟我的脸长得如出一辙”，但在遭受了这些事件后，受益者只是单独承当挫伤，少有人真正找到盗图者，将其逍遥法外。
毕竟，许多人还被蒙在鼓里，其实不知道本人的照片被盗用在色情影象中，即使知道了，也很难经过集体气力找出嫌疑人。
“但也不克不及说当前就不发照片了，这又不是女孩子的错。”林林的闺蜜告知「后浪钻研所」，通过此预先，她对同性有了更深的不信赖感。但她明确其中的情理，只有求女性减少警戒心其实不能遏制盗脸，仍是要对辟谣者严加惩罚。
ke44gsydvuh.jpg
被侵略的界限
那末，到底该如何惩罚利用AI技术作恶的盗脸者呢？
浙江垦丁律师事务所人工智能法律钻研部担任人、律师程念告知「后浪钻研所」，私自使用别人肖像制造“换脸”视频首先会侵略肖像权。同时，经过对获得别人人脸信息、制造视频是不是带有守法内容等详细情景的判别，进一步肯定其余可能波及的法律责任。
而利用换脸视频公布色情信息的，则要按照不同行动承当不同责任。“关于传布淫秽色情视频的行动，涉嫌触犯《中华人民共和国刑法》规则的传布淫秽物品罪，根据情节处二年下列有期徒刑、拘役或者控制。”
“假如行动尚未达四处罚规范的，则应该根据《中华人民共和国治安办理处分法》对于利用计算机信息网络传布淫秽物品的规则，处十日以上十五日下列扣留，能够并处三千元下列罚款；情节较轻的，处五日下列扣留或者五百元下列罚款。”
另外，在群里口嗨、凌辱女性，造黄谣等行动涉嫌触犯刑法规则的凌辱罪，也合乎民法典规则的损害声誉权的情景。
而关于利用“一键脱衣、看光女神”的广告贩卖换脸的软件技术商，可能构成独特侵权，承当相应的民事责任，“用户经过该软件办事制造淫秽物品并涉嫌制造淫秽物品牟利罪、传布淫秽物品罪等犯法时，技术商可能构成共犯。如用户利用制造后的视频实行其余犯法的，则技术商可能构成《中华人民共和国刑法》规则的帮忙信息网络犯法流动罪，情节重大的处三年下列有期徒刑或者拘役，并处或者单处分金。”
也就是说，打着“脱衣”旗帜售卖软件的商家也应承当法律责任，不克不及置身事外。
在详细的治理上，国外的法律法规或许能提供一些参考。
中国政法大学传授罗翔曾在2021年底探讨AI盗脸的视频中提到，美国有一个深度捏造责任法案，要求深度捏造的视频传布人必需要在作品上标志水印，告知大家这是捏造、拼接的。也规则了捏造者可能要承当的刑事和民事责任。刑事责任乃至最高规则了五年有期徒刑。
该法案也提到，公布为了凌辱、耻辱别人，提供含有别人虚伪的性行动或裸体的视频，最高能够判处五年。
而针对AI盗脸的状况，国际已有一些针对性的政策法规。
2022年十二月公布的《互联网信息办事深度分解办理规则》明白，在提供人脸生成、人脸交换、人脸操控、姿势操控等人物图象、视频生成或者明显改动集体身份特点的编纂办事时，该当在生成或者编纂的信息内容的公道地位、区域进行明显标识，向大众提醒深度分解状况。
往年4月十一日，为增进生成式人工智能技术安康开展和标准运用，国度互联网信息办公室起草了《生成式人工智能办事办理方法（征求意见稿）》，并向社会地下征求意见。
程念告知「后浪钻研所」，当初的女性要想防止AI盗脸侵略本身权利，能够经过第三方存证软件对相干的视频、图片进行存证，“状况紧迫时能够后行录屏，保留好残缺的查看视频、图片的门路。”
在信息公布平台看到这些视频、图片的，存证或者录屏时一并将公布者的主页、平台ID、IP地点、公布时间、点击量等信息一并记载，保留侵权主体的相干信息及传布信息，以作为情节重大水平的判别依据之一。如该平台内公布的视频、图片反对评论功用的，评论内相干的线索也应及时存证保留。
wdqsq1uyrp2.jpg
图源视觉中国
被AI盗脸所侵害的，也不仅是女性群体。除了用于性抽剥之外，AI盗脸曾经入侵了咱们日常糊口的各个方面。
近些年来，AI分解相干的欺骗案频发，2021年终，公安部网安局曾发文提示大众，留意防备分解声响和AI换脸等人工智能新型欺骗伎俩。
往年5月，有媒体报导称，福州一公司老板10分钟内受骗430万元。欺骗团伙利用AI换脸和拟声技术，装作熟人进行视频通话。警方引见，AI欺骗还包罗，声响分解、AI换脸、转发语音等伎俩，胜利率接近100%。
往年6月25日，全国人大法工委发言人对AI欺骗景象做出回应，利用“AI换脸”技术实行欺骗，是一种新型的电信网络欺骗，需求泛博群众进步识骗防骗认识，也需求无关部门依法增强治理和执法，查究相干人员法律责任。
不停新发的案件警省公众，AI的提高伴有着犯法的危机和危险，如何维护糊口界限不被技术侵略，曾经成了不能不面对的理想问题。
往年6月，美国企业家马斯克在某流动中提到，人类在人工智能的钻研过程当中要谨慎，“人工智能多是有史以来最具破坏性的技术”。
技术没有善恶观，但人类有。虽然人工智能的研发繁杂艰涩，一般人难以触及，但它终将沉向公众，回归伦理维度，成为每集体类都不克不及无视的存在。
（文中人物小娜、林林为化名。封面图源自视觉中国。）
参考材料：
1.新京报：《被AI盗脸“造黄谣”，她说：我没想过这类事会产生在本人身上》，2023-5-30
2.[韩]追踪团火花：《N号房追踪记》，湖南文艺出版社，2022-2-1
3.方圆：《AI换脸，不克不及想换就换！》，2023-4-1
4.财经E法：《888元“变脸杨幂”，AI黑灰产盯上明星》，2023-6-15
5.北方都市报：《AI新骗局来袭！胜利率接近100%，有人10分钟受骗430万》，2023-5-28
6.纵目旧事：《全国人大法工委：现行法律对“AI换脸”欺骗有规则》，2023-06-26 |
|
注册会员