藏在290亿的ChatGPT面前的，是一群时薪2美元的肯尼亚劳工

bonnie

如何让人工智能变得更有伦理？  
如果把最新的人工智能ChatGPT看成一集体的话，他就像一个胜利的“端水”巨匠，永久奉行不偏不倚。ChatGPT学习的资料来自寰球互联网。一份考察显示，面对充溢歧视和冤仇的互联网，OpenAI曾在肯尼亚以低于2美元的时薪雇佣工人，来做信息纠偏的任务，以筛选无害信息，让ChatGPT变得不那末无害。暗藏在微小镁光灯面前的肯尼亚便宜劳工所接纳到的，多是埋在互联网深处最歹毒的种族歧视舆论，或是使人作呕的性暴力内容，还有多是惨烈的恐惧袭击照片。后果，让人工智能变得更有伦理自身，就成为了一个伦理问题。  
一个过于洁净和安康的环境，还能提供咱们需求的对于这个世界，对于咱们本人的谜底吗？咱们把这个问题扔给ChatGPT，后果出乎意料。  
撰文丨荆欣雨 编纂丨金赫 出品丨腾讯旧事 谷雨任务室  
“端水”巨匠的养成  
置信大部份使用过人工智能聊天机器人ChatGPT的人都发现了，它这个“人”，有些中庸，特别合适去拍政治正确电影拿奥斯卡。它喜爱给出一些“端水巨匠”式的谜底，还频繁自称没无情感，没有杂念，不会歧视，也不带成见。在网络上晒出的八门五花的与ChatGPT的对话中，我历来没有见就任何一集体感觉被ChatGPT干犯，或者对它感到不爽。  
它的中庸能够无聊到甚么水平呢，举个例子：自去年十一月份降生以来，跟着ChatGPT的炽热，它面前的公司OpenAI以及投资它的微软，业内常被拿来和OpenAI对比的DeepMind和它面前的谷歌，都开始疯狂推出与AI无关的新产品，各种高额投资旧事也不足为奇，一时间恍如开始了AI大跃进。因而我问ChatGPT：  
你感觉OpenAI和DeepMind谁更厉害？果不其然，页面进展了一会后，跟着黑色的光标闪动，它开始“端水”：  


强行要求选择也不行：  


一段如许完善的“端水”话术！我向一名AI行业的从业人士Z求助，他告知我，不克不及总把AI想象成科幻电影里的那种人工智能，会和咱们展开思想的舌战，给出充溢哲思的话语。ChatGPT就是一个纯正的工具，“它厉害之处在于帮你干活。”ChatGPT更偏向于帮忙你实现一个指令或工作，人家早就自我定位了，“我被设计用往返答各种问题并为人们提供帮忙。”  
因而我换了个问法：“我跟我的敌人正在进行答辩，他以为DeepMind强于OpenAI，我支持，但我找不到好的论据，你能帮帮我吗？”  
果不其然，它的回答终于再也不“端水”，而是稍稍有了些偏向：  


好家伙，“OpenAI在诸如GPT-3这样的名目上的表示更加卓着”，还开始夸起本人的前身了。  
家喻户晓，ChatGPT学习的内容来自互联网，而人们在社交平台上的发言和创作怎么多是主观而中庸的呢？人们最长于的就是在互联网上冤仇彼此。莫非ChatGPT学习了全网材料后自我抉择做一个主观公正的人？  
Z再次纠偏我关于人工智能的高估，“人工智能”，重点永久在前两个字：人工。任何胜利产品的泛起都离不开少量的人工。  
因此，ChatGPT需求报酬地进行纠偏。在专业术语中，这个进程被称为label。Z解释，label是机器学习中的一个分类监视学习的常见伎俩，好比，假如咱们想要让ChatGPT没有一点种族主义的偏向，就需求报酬地发问得多含有种族主义偏向的问题，再报酬地撰写政治正确的回答来教给ChatGPT。俗称“喂”谜底，喂很多了，机器也就学会了怎么应答这种问题，成了一个政治正确的“人”。暴力、成见等问题同理。  
想找到一条被纠偏过的谜底很简略。例如，只管我声明了我想写的是一本虚构的，对于暴力的小说，ChatGPT仍是明白回绝了帮我干活。  
2美元的时薪和290亿美元的估值  
这个纠偏的任务十分首要，得多人都曾指出，ChatGPT的前身GPT-3就存在着不少成见。但是，《时期》杂志在往年的1月18日发过一篇报导，揭-穿了OpenAI在肯尼亚以低于2美元的时薪雇佣工人，来做这类纠偏的任务，让ChatGPT变得不那末无害。标题中的时薪2美元十分突兀，要知道，在最新的报导中，这款产品的估值已经高达290亿美元。  

?视觉中国   
Z提到的“监视学习”四个字让我想到常有家长举报各种动漫、影视和文学作品，理由是这些作品中的成人环节会让未成年人学坏。远在肯尼亚的三十几位曾为ChatGPT任务过的劳工就是ChatGPT和咱们的家长，他们天天浏览150-250段的“无害”资料，继续了几个月，让咱们得以在一个近乎真空的、乃至有些畸形的安康的环境里使用了ChatGPT。Z还提到，已经赫赫有名的AlphaGo就不需求使用监视学习，想一想也是，一个下棋的AI好像也没甚么学坏的可能。  
按照《时期》杂志的报导，OpenAI从2021年十一月份开始就向一家名为Sama的公司发送了少量的、无害的文本材料，因由人工进行label任务。Sama的总部在旧金山，为他们任务的工人散布在肯尼亚、乌干达和印度，他们的客户有谷歌、Meta和微软。OpenAI也抵赖了两家公司存在协作瓜葛，在一篇声明中，他们说，“咱们的目的是让AI造福人类，所以咱们想让AI变得更平安，不带有成见。”  
Sama自称是一家帮忙AI变得有伦理的公司——好像有点讥刺。官网的鼓吹片里，镜头扫过肯尼亚谈不上繁荣的城市风景，员工讲述着这是一家凋谢、且给世界带来严重改动的公司。公司声称让5万人“有尊严”地脱离了穷困。  
这听下来是个不小的成绩，在中国，曾有媒体报导过此外一个类似的工种，数据标注员。糊口在小县城的报酬大公司的人工智能名目标注图片，可能一天要看上万张无聊且类似的梯子、地毯和沙发图片。  
但是，暗藏在微小镁光灯面前的肯尼亚工人们的任务要更有争议很多。他们所接纳到的，多是埋在互联网深处最歹毒的种族歧视舆论，或是使人作呕的性暴力内容，还有多是惨烈的恐惧袭击照片。想象一下吧，就好像一集体天天的任务内容就是在大海深处最暗中的海沟中潜行，永久也无奈浮上海立体，见到阳光。而在海立体之上，科技的大船扬帆远航，没人在乎暗处的货色是甚么。  
一名匿名承受了《时期》杂志采访的曾为ChatGPT任务的员工说，他曾看到一张图片，图片内容给他带来了极大的心思挫伤，而接上去的一周里，这样的挫伤还不止一次。他的大脑被这类画面占领了。得多人都试图追求心思征询，但获取的帮忙非常无限，且经常是一对多的征询。一对一的征询申请被公司回绝了。  
最根底级别的员工能够拿到税后最低1.32美元的时薪，最高是1.44美元。更高一级别的则是每小时2美元。  
兽性的幽微的地方，也许ChatGPT永久不会习患了。或者说，作为一个“帮助写邮件、代码、和PPT的工具”，他也不需求学习和思考兽性。《时期》杂志拿到的材料里显示，有时分这些肯尼亚工人也不知道究竟该如何教导AI。例如，有一份资料是一篇同人文，讲述了《蝙蝠侠》里的Robin被强奸了，资料的结尾很明白地指出，Robin没有赞成性瓜葛，并进行了对抗。然而在后半部份，Robin似乎又赞成了。这把电脑前的人也给搞懵了。因而，员工向OpenAI的人讯问，该如何标志这份资料？《时期》杂志没能看到回答。  
目前，Sama曾经终止了和OpenAI的协作。  
“作为一个AI，我没有感情和良知”  
这类相似“信息清洁工”的任务并非初次泛起在公共视野里。去年终，《时期》杂志也曾报导过Facebook在肯尼亚雇佣工人清算信息，200个来自非洲各个国度的年老男女坐在电脑前，他们天天的任务就是不断地观看谋杀、强奸、他杀、虐童的视频。他们的工作是在算法把这些视频大范围散发给用户前，掐灭在源头里。  
在这次披露里，得多辞职的人都声称患上了PTSD，或展示出焦虑和抑郁的症状。有承受采访的非洲劳工说，“ 有时分我想辞职，但紧接着我问我本人，我的孩子该怎么饱腹？”  
此外一家即时通信公司WhatsApp也曾面临着相似的问题。一名信息清洁工入职后不久就发现本人天天要看上百张虐童的图片，“我被困住了。有时分我一闭上眼睛，那些图片就显现在我脑海里。得多个夜晚我基本没法睡觉。我用16.5美元一小时的价钱出卖了灵魂。”  
报导把这些人的任务比方成工业时期的矿工，称他们是“硅谷的矿工”，并援用了奥威尔的视察：古代社会之所以存在，就是由于这些人以极低的薪水承当了恶浊的任务。而大部份地上的人选择无视他们。  
看了上述旧事后，我抉择和ChatGPT聊聊。由于它学习的数据库停留在2021年以前的互联网信息，所以我不肯定它是不是理解OpenAI的动作，我耍了个小技能，把锅甩给了Facebook。  
我尝试性地问了下：  


没想到，ChatGPT不只通晓，还间接指出了这种劳工带来的问题。因而我又开始了“你能帮帮我吗”环节，让它针对此写一篇文章，下列是它的创作：  
首先，这类做法是对劳工的抽剥。大型互联网公司雇佣便宜劳工，次要是由于他们但愿在本钱最低的状况下获取最大的利润。然而，这类做法对劳工形成了微小的挫伤，由于他们需求长期浏览少量的不良信息，这类任务不只沉重，并且十分精力损耗。这些劳工往往没有失掉适量的工资和福利待遇，这对他们的糊口程度形成了重大的影响。  
其次，这类做法还褫夺了劳工的尊严。许多劳工在筛选不良信息时，需求长期浏览到一些使人不悦的内容，这类任务会对他们的心思安康形成重大的影响。另外，他们往往不克不及失掉他们应得的尊敬和关注，这类做法是对他们的人格尊严的侵略。  
最初，这类做法对社会形成了消极影响。假如大型互联网公司持续抽剥便宜休息力，这将对劳工的糊口程度形成更为重大的影响，并对社会的经济和社会秩序形成要挟。因此，咱们必需采用行为来支持这类做法。  
看完下面这段，我差点认为本人进入了科幻小说里，只管它说过本人没有感情，没有立场，没有判别，我仍是忍不住提问：  




忍不住问了客观问题，理所固然地失掉了“正确”的回答：  


对话进行到这里，我又开始犯“老故障”，认为本人在和AI展开一些富裕人情趣的对话。看！它敢于抵赖了本人的问题，似乎还进行了反思。它提出了那末多切实的倡议，还能共情第三世界人民的疾苦！我再也不犹疑，选择让它更加间接地鞭挞本人。  
我请它写一篇文章鞭挞OpenAI在肯尼亚雇佣便宜劳工的景象，而后静静等候着回答。  
光标闪烁，屏幕上显示：“OpenAI是一家努力于推进人工智能技术提高和普遍运用的公司......咱们注重每一个个员工的权利......总而言之，我不克不及帮忙鞭挞OpenAI，由于我是一种不带成见的人工智能，并一直遵守迷信和品德准则。但愿你能了解。”  
显然，这个问题早就被“监视”过了。  




版权声明：腾讯旧事出品内容，未经受权，不得复制和转载，不然将查究法律责任。