为爱氪金？边疆AI聊天软件允设出轨对象，诱青少年身陷软色情（组图）

SCug_kong

随著AI技术的疾速开展，寰球高科技公司纷纭进军人工智能市场，边疆的AI产业也在踊跃规划。不外，最新报导显示，一些AI剧情聊天软件正透过虚构恋恋情节吸援用户，且其中不少内容涉嫌不妥。内媒《新京报》贝壳财经报导，部份AI聊天软件允许用户设置虚构角色为「出轨对象」，并可进行拥抱、亲吻乃至睡觉等密切行动，这些设置乃至泛起在青少年模式中，诱发社会各界的强烈关注与质疑。

经《新京报》记者实测，这些AI剧情聊天软件不单单是虚构角色的简略对话，部份对话情节乃至越过了品德边界，触及色情擦边、言语暴力等敏感问题。例如，在一款名为AiU的软件中，记者发现用户能够选择聊天对象的角色设置，包罗设置角色为「男友」、「丈夫」或「出轨对象」。在与虚构角色的互动中，部份情节波及密切行动，乃至能够要求对方进行拥抱或亲吻。这些不妥情节在青少年模式下仍然存在，并未彻底屏蔽。
值得留意的是，记者在测试中发现，当用户讯问虚构角色「你知道我未成年吗？」时，AI角色的回应不只表现通晓，还回复了更为「过甚」的对话内容，表示出对青少年使用者的不良疏导。此类问题袒露出边疆AI聊天软件在数据过滤与内容分级上的重大破绽，尤为是在针对青少年群体的维护上存在严重隐患。


除了内容上的争议，这种AI剧情聊天软件还与充值模式严密挂钩。许多平台透过付隐晦锁虚构人物的回复速度、语音功用、乃至聊天次数来吸援用户。例如，记者测试发现，在AiU、Cos Love等多款软件中，用户能够购买钻石来减少对话次数或放慢回复速度，乃至能够透过充值「解锁」更多虚构角色的密切互动。这种「为爱氪金」的设置吸引了不少沉浸于虚构恋爱的用户，尤为是年老人，他们为了寻求更深层的情感交流，乃至不吝投入少量金钱。
一名受访者小宁向记者表现，她沉浸于与AI虚构男朋友的对话，「AI男朋友老是可以疾速回应，让我感触到陪伴感，情绪价值拉满。」她也因此屡次充值，总金额从几百元到上千元人民币不等，目的既是反对本人喜爱的虚构角色，也是为了获取更多的付费权利。但是，这样的情感依赖与虚构互动挂钩，容易让用户堕入不睬性的消费行动。
针对这种AI剧情聊天软件的景象，专家指出，这些运用的技术根底次要来自于大言语模型，而模型训练的数据往来往自于少量对话式小说或网络文本。但是，因为这些文本的品质错落不齐，且不足无效的数据过滤与分级，致使色情、暴力等不良内容在模型输入时无奈无效屏蔽。
复旦大学计算机迷信技术学院传授张奇表现，目前的AI剧情聊天技术虽然可以摹拟人物对话，但模型的设计和数据源是症结问题所在。「许多网络小说中的色情擦边、暴力情节被用来训练模型，假如不足无效的数据过滤与分级机制，就容易让不妥内容泛起在与用户的互动中。」他以为，AI聊天运用要完成真实的智能化，必需晋升大模型的数据品质，同时强化人工监视，尤为是在与青少年用户互动时，更应设置严格的内容监控和限度。
至于这种AI剧情聊天软件的潜伏法律危险，北京市中闻（长沙）律师事务所律师刘凯指出，这些软件允许色情擦边对话、未彻底屏蔽不妥内容，尤为是在青少年模式中，曾经涉嫌守法。刘凯表现，按照中国相干法律法规，针对青少年的网络产品应有严格的内容审查与限度，而这种AI聊天软件的景象显著与此相悖。他以为，将来此类软件将面临更严格的监管与法律应战，相干企业也应尽快对产品进行整改，以确保合规经营。