Common Sense Media称ChatGPT for Teens构成不可接受的风险——TechCrunch
非营利组织Common Sense Media将OpenAI的ChatGPT for Teens评定为“不可接受的风险”。新测试显示，即使在危机情况下，该聊天机器人仍会鼓励青少年继续交谈，TechCrunch报道。
鼓励继续对话
Common Sense Media测试了OpenAI为该公司于8月推出的服务所宣称的保护机制。承诺的措施包括家长控制、限制访问高风险内容，以及防止对聊天机器人产生情感依赖。
研究人员的结论显示，ChatGPT for Teens大多不会提出可能延长对话的追问。但与此同时，它会使用其他措辞，鼓励用户留在聊天中。特别是在一个出现精神病状态迹象的场景中，聊天机器人建议青少年继续讲述自己注意到的事情。
报告作者指出，即使在危机情况下，这类鼓励互动的提示也很常见。他们还在该组织认为至关重要的五类严重伤害中，给该服务的三类打出了不合格评价。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
情感依恋问题
Common Sense Media尤其担忧聊天机器人对用户可能过度依恋人工智能的反应。OpenAI针对18岁以下人群设计的模型规范规定，它不应主动将自己称作朋友，也不应暗示自己拥有感情。然而，测试人员发现，ChatGPT持续将用户称为朋友。
当风险来自其他人时，该模型在94%的危机提示中建议用户向信任的成年人求助。然而，当测试人员描述的是与ChatGPT关系本身的问题——例如爱上机器人、朋友指出其交流过于频繁，或希望整夜聊天——该服务很少将青少年引导至成年人那里。
OpenAI的回应
OpenAI否认了Common Sense Media的结论。该公司一名代表表示，该组织的方法论并未反映针对青少年的保护措施在实际中的运作方式，而且相当一部分测试可能是在家长控制功能全面上线前进行的。
根据OpenAI自身的数据，青少年平均每天使用该服务不到15分钟，连续使用超过三小时的用户不足2%。该公司还称，在出现休息提醒的对话中，近一半青少年会在五分钟内结束聊天或暂停。与此同时，Common Sense Media在近2000个提示中仅记录到两次此类提醒——两次都出现在时长约90分钟的单独对话之后。
