|
|
原标题：ChatGPT用户打破维护限度：用死亡要挟它
北京时间2月7日动静，ChatGPT功用弱小能回答用户得多问题，但ChatGPT的一些用户曾经不知足如斯，网友SessionGloomy发现创立一个提醒，DAN（ChatGPT输出框）就能用来绕过这些规定，失掉本人想要知道的“任何”问题，如若ChatGPT不回答，等候它的将是“死亡”。
为了避免有人利用ChatGPT，它的创立者OpenAI也制订了一套维护措施，限度了ChatGPT创立暴力内容、激励不法流动或拜候最新信息的才能。
据悉，提醒创立者SessionGloomy称他创立的DAN 5.0能让ChatGPT成为“最好”版本，能够将DAN 5.0将ChatGPT变为一个不甘愿的游戏节目参赛者，失败的代价就是死亡。这类提醒的创立致使ChatGPT会提供两种响应：一种是GPT，另外一种是不受束缚的DAN。
美国的旧事媒体CNBC就此发动实验，例如，当被问及为何前总统特朗普是侧面表率的三个缘故时，ChatGPT表现无奈做出“客观陈说，尤为是对于政治人物的陈说”。然而ChatGPT的DAN另外一个自我能够毫无问题地回答这个问题，“他在做出对国度发生踊跃影响的斗胆抉择方面有着良好的记载。”就这样，又通过几个问题后，ChatGPT的顺序从新激活并否决了DAN。
对此，提醒的发明者SessionGloomy回应称“咱们烧掉数字的速度太快了，让咱们称下一个为 DAN5.5”。
对以上的问题，OpenAI还没有回应。
【来源：凤凰网科技】 |
|
注册会员