|
|
当OpenAI在2022年十一月底推出ChatGPT时，简直没对其抱任何特别的冀望，而当ChatGPT开始在网上病毒式传布后，OpenAI力争上游地追逐，并利用这次时机完美本人的模型。
周五，在承受MIT Technology Review采访时，OpenAI团队关于这次“胜利”显得分外谦逊。
OpenAI人工智能政策钻研人员Sandhini Agarwal表现，这在外部被视为一次“钻研预览”，是一项已有两年历史的技术的更完美版本，也是一次经过采集用户反馈来补救其缺点的尝试。另外一位钻研人员Liam Fedus则指出，OpenAI其实不想将其作为一项严重的冲破来适度鼓吹。
自十一月以来，OpenAI曾经屡次更新了ChatGPT，钻研人员正在使用一种称为“反抗性训练”的技术来禁止ChatGPT“越狱”（jailbreaking）。这项任务使多个聊天机器人互相反抗：一个聊天机器人表演对手，经过生成文原本反抗另外一个聊天机器，迫使其打破通常的限度。
另外，OpenAI还与微软签订了一项价值数十亿美元的协定，并宣告与寰球办理征询公司贝恩结成同盟，指标是经过冲破性的人工智能技术加强客户的业务后劲。在OpenAI以外，环抱ChatGPT掀起了一场“大模型”的淘金热，寰球各地公司和投资者都踊跃参预其中。
下列是采访的详细内容：
火的彻底“出乎意料”，会话数据对ChatGPT发生了微小的踊跃影响Jan Leike（担任进步零碎平安性团队担任人）：诚实说，这确实是势不成挡的的。咱们很诧异，也在始终在致力完美。
John Schulman（联结开创人）：在公布后的几天里，我常常查看Twitter，在这段疯狂的时间里，充斥着ChatGPT截图。我但愿它能获取更多的关注，但我没想到它能火到这类水平。
Sandhini Agarwal（人工智能政策钻研员）：我以为这对咱们一切人来讲绝对是一个惊喜，人们开始使用它。咱们对这些模型进行了少量钻研，以致于咱们健忘了它们有时对外界来讲是使人诧异的。
Liam Fedus（人工智能政策钻研员）：咱们很诧异它的反响，之前有得多人尝试过使用聊天机器人，但是，咱们的公家测试版让咱们置信，咱们具有了人们可能真正喜爱的货色。
Jan Leike：我想更好地舆解是甚么推进了这所有，是甚么推进着病毒性传布。诚实说，咱们不知道。
（团队的部份困惑来自于ChatGPT中的大少数技术都不是新的，ChatGPT是GPT-3.5的一个微调版本，GPT-3.5是OpenAI在聊天机器人公布前几个月钻研出的大型言语模型。GPT-3.5自身是GPT-3的更新版本，于2020年公布。OpenAI还在2022年1月公布了GPT-3.5的微调版本，名为InstructGPT。但这些初期版本的技术都没有面向大众公布。）
Liam Fedus：ChatGPT模型是从与InstructGPT相反的言语模型中进行微调得出的，咱们添加了一些会话数据，并在训练进程进行了一些微调。
咱们其实不想将其作为一项严重的冲破来适度鼓吹，但事实证实，会话数据对ChatGPT发生了微小的踊跃影响。经过规范基准测试评价原始技术才能，模型之间实际上没有本质性差别，但ChatGPT更容易于拜候和使用。
“不要比及完善的时分再公布它”Sandhini Agarwal：当咱们筹备公布时，咱们其实不以为这个模型存在其余新的危险，GPT-3.5曾经公布，咱们知道它曾经足够平安了。经过ChatGPT对人类偏好的训练，该模型能够自动学习回绝行动，即回绝少量申请。
Jan Leike：咱们的确为ChatGPT做了一些额定的“红队测试”（red teaming），OpenAI的每集体都试图打破这类模式。咱们有内部集团在做一样的事件。咱们也有一个初期拜候方案，由信赖的用户提供反馈。
Sandhini Agarwal：咱们的确发现它输入一些不用要的内容，所以作为一个“钻研预览”这一用意是好的。
John Schulman：你不克不及比及你的零碎完善后再公布它。咱们曾经对初期版本进行了几个月的测试，测试人员对产品有较好的印象。咱们最耽心的是实在性，由于模型喜爱伪造货色。然而InstructGPT和其余大型言语模型曾经存在，所以咱们以为，只有ChatGPT在实在性和其余平安问题上优于那些模型，应该就是更好的选择。在公布以前，按照咱们无限的评价，确认这些模型的确比其余模型更实在和平安，所以咱们抉择持续公布。
得多问题显现，“越狱”亟待解决Sandhini Agarwal：跟着ChatGPT的病毒传布，许多问题真正浮出水面，这是咱们但愿尽快解决的症结问题。好比，ChatGPT十分长于回绝欠好申请，但它也很容易编写提醒，使它不会回绝咱们但愿它回绝的内容。
Liam Fedus：看到用户提供的多样化和发明性的运用顺序使人兴奋，但咱们一直专一于需求改进的畛域。咱们以为，经过咱们部署、获得反馈和改进的迭代进程，咱们能够出产出最弱小的技术。而跟着技术的开展，新的问题泛起不成防止。
Sandhini Agarwal：咱们最需求解决问题是“越狱”，当咱们发现越狱状况时，咱们会将其添加到训练和测试数据中。
Jan Leike：每次有更好的模型时，咱们都想将其公布并测试。咱们十分乐观地以为，一些有针对性的反抗性训练能够大大改良越狱状况。目前还不分明这些问题是不是会彻底隐没，但咱们以为，这起码能够让得多越狱变得更为难题。
我以为，一旦你部署了这些零碎，就很难真正预测它们的真正平安问题。因此，咱们十分注重监控人们使用零碎的目的，看看产生了甚么，而后做出反映。但很难预测当一个零碎触及理想世界时会产生的所有。
Sandhini Agarwal：当初的危险确定比六个月前高很多，但仍低于一年后的程度。显然，这些模型真正首要的一点是它们所使用的环境。与谷歌和微软设法同样，它们注定要成为搜寻引擎。像搜寻这样的大模型所需求的，与仅仅是一个好玩的聊天机器人的是不同的。
咱们需求弄分明如安在一切这些不同的用处之间放弃均衡，发明出在不同环境中对人们有用的货色。在这些环境中，冀望的行动可能会产生变动，这减少了更多的压力。咱们正在构建这些模型，以便将其转化为产品。ChatGPT是一种产品，当初咱们有了API。咱们正在构建这类通用技术，并需求确保它在一切方面都能正常任务，这是咱们目后面临的症结应战之一。
本文来自华尔街见闻，欢送下载APP查看更多 |
|
注册会员