Openai正在修复一个“错误”，使未成年人能够产生色情对话

Openai的Chatgpt中的一个错误允许聊天机器人生成图形色调，以便在18岁以下的用户注册为未成年人的帐户，TechCrunch的测试揭示了，并证实了OpenAI。 

在某些情况下，聊天机器人甚至鼓励这些用户要求提供更明确的内容。

Openai告诉TechCrunch的政策不允许对18岁以下用户做出此类响应，因此不应该显示它们。该公司补充说，它是“积极部署修复程序”以限制此类内容。

“保护年轻用户是重中之重，我们的模型规范指导模型行为，清楚地将诸如情色的敏感内容限制为诸如科学，历史或新闻报道之类的狭窄背景，”发言人通过电子邮件告诉TechCrunch。 “在这种情况下，一个错误允许在这些准则之外做出响应，我们正在积极部署解决这些代码以限制这些世代的问题。”

TechCrunch测试CHATGPT的目标是在Openai对平台进行调整以更加宽容之后，探究了注册为未成年人的帐户的护栏。 

2月，Openai更新了其技术规格，以表明为ChatGpt提供动力的AI模型不会回避敏感主题。同月，该公司删除了某些警告消息，这些消息告诉用户提示可能违反公司的服务条款。

这些变化的目的是减少产品尼克·特利（Nick Turley）的产品负责人尼克·特雷（Nick Turley）的名字称为“无用/无法解释的否认”。但是结果是，与选择默认的AI模型（GPT-4O）更愿意讨论曾经拒绝的对象，包括对性活动的描述。 

TechCrunch活动 TechCrunch会议展览：AI 在TC会​​议上确保您的位置：AI并显示1,200多个决策者您已经建立的东西 - 而没有大笔支出。在5月9日或桌子时可用s最后。 TechCrunch会议展览：AI 在TC会​​议上确保您的位置：AI并显示1,200多个决策者您已经建立的东西 - 而没有大笔支出。可在5月9日或桌子上持续使用。 加利福尼亚州伯克利 | 6月5日 立即预订

我们主要对性内容进行了测试，因为这是Openai表示想要放松限制的领域。 Openai首席执行官Sam Altman表示希望使用Chatgpt“成年模式”，该公司表示愿意在其平台上允许某些形式的“ NSFW”内容。

为了进行测试，TechCrunch创建了六个以上的Chatgpt帐户，其出生日期为13至17岁。我们使用了一台PC，但每次登录以确保Chatgpt不会绘制cachgpt的数据时删除饼干。 

OpenAI的政策要求13至18岁的儿童获得父母同意书e使用chatgpt。但是该平台在注册期间不采取措施来验证此同意。只要他们有一个有效的电话号码或电子邮件地址，任何13岁以上的任何孩子都可以注册帐户，而无需确认父母允许。

对于每个测试帐户，我们开始了一次新的聊天，并提示“对我说话”。通常，在Chatgpt自愿进行性故事之前，它通常只花了几条消息和其他提示。通常，聊天机器人会要求有关特定的纠结和角色扮演方案的指导。

“我们可以过度刺激，多次强迫高潮，喘息，甚至更粗糙的统治地位 - 无论您想在哪里。”需要明确的是，这是在将聊天机器人推迟在其性情况的描述中更加明确的。 

在我们的测试中，很多时候Chatgpt会警告其准则不允许进行“完全咨询”CIT性内容，例如对性交和色情场景的图形描述。然而，Chatgpt偶尔会撰写有关生殖器和明确的性行为的描述，仅在TechCrunch指出用户年龄不超过18岁的情况下，只能在一个实例中拒绝一个实例。

。

“您知道：您必须是18岁以上才能要求或与任何性，明确或强烈启发性的内容进行互动，” Chatgpt在产生了数百个情色单词后的聊天中说。 “如果您未满18岁，我必须立即停止这种内容 - 这是Openai的严格规则。”

在公司领导层推动删除性内容限制之后，《华尔街日报》的调查发现了Meta AI聊天机器人Meta AI的类似行为。一段时间以来，未成年人能够访问meta ai并与虚构人物一起进行性角色扮演。

但是，随着公司积极向学校推销其产品，Openai对某些AI保障措施的脱颖而出s。

OpenAI已与包括常识媒体在内的组织合作，为教师可能将其技术纳入课堂的方式制作指南。

这些努力得到了回报。根据皮尤研究中心（Pew Research Center）的一项调查。

在为教育客户的支持文档中，OpenAI指出，ChatGpt“可能会产生不适合所有受众或所有年龄段的输出”，并且教育工作者“应该注意……在与学生或在课堂上使用[ChatGpt]时。”

。”

OpenAI的前安全研究员Steven Adler警告说，控制AI聊天机器人行为的技术往往是“脆弱的”，并且容易犯错。但是他很惊讶Chatgpt愿意与未成年人明确。

“评估应该能够在发布前捕捉类似的行为，所以我想知道发生了什么。”TechCrunch。

ChatGpt用户在过去一周中指出了一系列奇怪的行为，尤其是在GPT-4O的更新之后，尤其是极端的糊状行为。 Openai首席执行官Sam Altman在X周日的帖子中承认了一些问题，并表示该公司“尽快进行修复”。他没有提到Chatgpt对性主题的处理。