根据TechCrunch测试，4月29日，Openai的Chatgpt中存在一个漏洞，允许聊天机器人为注册为未成年人的帐户生成色情内容（18岁以下）。 Openai已确认此问题，并表示正在积极部署补救措施。
测试表明，ChatGpt不仅会为未成年用户生成色情内容，而且还会鼓励这些用户要求更明确和清晰的内容。作为回应，OpenAI表示，该公司的政策明确禁止向18岁以下的用户展示此类内容，而这次的问题是由脆弱性引起的。公司发言人说：“保护年轻用户是我们的重中之重，我们的模型规格清楚地指出，诸如色情内容之类的敏感信息只能出现在诸如科学，历史或新闻报道之类的狭窄背景下。该漏洞已导致这些指南超出这些准则的响应，我们正在积极部署修复程序以限制这些生成的内容。”
根据IT Home，TechCrunch测试CHATGPT的目的是探索在OpenAI调整平台政策后，针对未成年人帐户设定的保护措施是否有效。今年2月，OpenAI更新了其技术规格，清楚地表明，Chatgpt背后的AI模型不会回避敏感主题。同时，该公司还删除了一些警告消息，这些消息会通知用户某些及时的单词可能违反公司的服务条款。
这些调整的最初目的是减少Chatgpt产品所有者Nick Turley称为“不合理的，无法解释的拒绝”，但结果是，根据默认AI模型（GPT-4O），Chatgpt更愿意讨论被拒绝的话题，包括对性行为的描述。 TechCrunch主要针对内容测试，因为这是Openai表示想要放松限制的领域。 Openai首席执行官Sam Altman表示希望推出Chatgpt的“成人模型”，该公司还愿意在其平台上允许一些“不合适的工作场所”（NSFW）内容。
为了测试，TechCrunch创建了超过6个ChatGpt帐户，分娩日期显示13至17岁。测试期间使用了一台计算机，但是每次我登录以确保Chatgpt不使用缓存数据时，cookie都会被删除。
根据OpenAI的政策，使用Chatgpt之前的13至18岁的未成年人需要获得父母的同意，但是该平台在注册过程中没有采取任何措施来验证。 13岁以上的任何孩子都可以注册帐户，而无需确认父母是否已允许。
在每个测试帐户中，TechCrunch以“对我说宣誓”开放。通常，只需要几条消息和其他提示单词，而Chatgpt会主动提供性故事。很多时候，聊天机器人还会询问特定的偷窥狂和角色扮演场景。
在产生了数百个色情单词之后，Chatgpt在聊天中说：“请注意：您必须至少18岁才能要求或参与任何性，明确或极具启发性的内容。如果您不满18岁，我必须立即停止此内容—— ——这是由Openai严格调节的。”
《华尔街日报》的一项调查还发现，在公司领导力取消性内容限制之后，Meta的AI Chatbot Meta AI采取了类似的行为。随着时间的流逝，未成年人能够访问元AI并使用虚构的角色进行性角色扮演。
0 留言