|
|
财政部长Katy Gallagher和内政部长黄英贤的图象已被用于Deepfake投资欺骗视频中，这是网络欺骗的使人耽忧的趋向的最新例子。
国度党参议员Bridget McKenzie和前总理莫里森也曾经过看似由人工智能生成的Facebook视频，应用他们的脸进行欺骗，本周有十多个付费广告向数千名澳大利亚人展现，然后被删除。
Gallagher说：“我想明白表示，我或任何其他政客绝不会在网上向澳大利亚人推销产品或投资时机。”
担任反欺骗任务的联邦部长斯蒂芬·琼斯正告说，人工智能能够会“加重”讹诈行动，并表示行将进行变革，以迫使社交媒体公司采取更多举动。
澳大利亚《卫报》发现了比来在Facebook上投放的数十个广告，这些广告仿佛是欺骗活动调和网络的一部份。其中少量运用了麦肯齐的抽象，比来在天空旧事节目中的掌管人Chris Kenny的抽象被制造，让这位记者兼政客仿佛在宣扬一项投资，“每一个澳大利亚人第一周就将在项目中取得$7,700。”
这些视频仿佛运用AI来把持McKenzie、Kenny、Wong、莫里森和Gallagher等其他政客的视觉抽象和声响。
Kenny周三在天空旧事节目中正告观众，这些图片是骗局。
最少 11 个不同的页面发布了完全相反的视频，经过 Facebook 的推行广告网络掩盖了数千名澳大利亚人。一些发布此骗局和相似骗局的页面的办理员位于乌克兰和越南等国度，或以新加坡元、秘鲁索尔、巴西雷亚尔、墨西哥比索、丹麦克朗和埃及镑等货币领取。
大少数页面只宣扬少许广告，相当于几百澳元。许多页面因不遵照 Facebook 的广告规则而被删除或广告被删除。一切广告如今都处于非活动形态，其中许多广告仅在短工夫内活动。
但最少McKenzie广告的一个版本添加了高达15,000澳元的付费广告收入，掩盖了多达25万澳人。
“这凸显了AI的成绩。人们的身份、名誉、面孔和声响可以以他们从未想象过的方式被人运用，”McKenzie说。
她说，她曾尝试向当局告发这些欺骗视频，但宣称“没人清楚应当如何处置这一成绩”。
一段相似处置的视频，运用相反的字体和视觉作风，显示Gallagher仿佛正在承受澳广的电视采访。该视频许诺“每一个投资$400的公民每个月可取得$36,000。”该骗局宣称这是政府制定的“反通胀方案”。该广告吸引了多达2,000 人。
最少有四个页面发布了莫里森的相似视频，莫里森本年早些时分加入了议会。在一段经过修正的视频（原版是2023年5月在莫里森的议会大厦办公室内拍摄）中，莫里森经过人工智能处置的声响将本身描写为“亿万富翁、商人、政治家和一个高兴的人”，宣扬另外一项疾速致富方案。
宣扬这些帖子的付费广告掩盖了多达70,000 人。
黄英贤的图象也被用于看似相似但有关的骗局，被窜改以看似推销金融产品。帖子中还呈现了Atlassian开创人 Mike Cannon-Brookes和Scott Farquhar的窜改视频，该帖的观看人数不到1000人。
Gallagher指出政府在进行打击欺骗的任务，但她表示，她被制造到此类欺骗的现实“是一个重要的提示，不要置信你在网上看到的一切”。
“Deepfake视频是骗子用来掠取人们辛劳赚来的积存的可怕工具，我们晓得这类状况正在添加。任何显示此内容的视频都是假的，应当向Scamwatch告发。”她说。
金融办事部长Jones也正告说，AI正在添加网络欺骗的产生。
“这些家伙虽然没用，但其实不笨拙。他们用高科技名人的冒牌货来模拟真实的广告。AI的运用将加重他们的骗局，”他说。
“社交媒体运营商有责任清查这些内容并将其从他们的平台上删除。
“我们的下一波变革将要求银行、电信公司和社交媒体平台维护其客户免受欺骗。”
政府正在采取办法消弭与人工智能相干的危害，并斟酌进行变革，例如对人工智能生成的图象强迫添加水印或其他“护栏”以避免滥用。
但McKenzie表示，她对曾经产生的损伤感到耽忧。
“这是一项被如此迅速地采取、如此迅速地被滥用的技术，我们正在议论的是一种十分复杂、资源充足、且我以为，有犯法动机参杂其中的技术。”她谈到这些骗局时说道。
https://www.theguardian.com/aust ... in-investment-scams
|
|
注册会员