朱松纯团队最新钻研：机器人可与人类“开诚布公”，还说下一步要造“AI大白”

昊天

当初，这个问题有了谜底：



人类与机器人，价值如何对齐？

除了寻觅平安门路，在游戏开始以前，人类指挥官还会接到4个额定工作指标，指挥官需求4选1，工作包罗：

全部游戏分为3组，试验后果发现，机器人双方面承受人类指令，也就是单纯的作为聆听者时，在游戏进度达到25%时，经过对最少60%的指标首要性进行正确排序，疾速与用户的价值进行对齐。

下面的试验后果，阐明了人类与机器人合作过程当中，双向价值对齐的进程：

后果摆在下面，而证实人类与机器人之间的价值双向对齐，需求一个实践，也是所有钻研效果面前的原理：

同时为了即时掌握用户信息，钻研团队采取通信学习取代了传统的数据驱动的机器学习办法，机器将按照所推断出的用户的价值指标进行公道解释。

论文作者引见

目前，朱松纯同时在清华大学和北大任讲席传授并负责办理职务。他掌管的北京通用人工智能钻研院（BIGAI）也是由清华大学、北大等单位协作撑持。
浏览原文