OpenAI会让ChatGPT制作Porn吗？AI制造者称这取决于

周四，领先的人工智能开发商OpenAI推出了一种新的模型规范，许多人认为这意味着其广受欢迎的生成人工智能工具将被允许生成不安全的成人内容，这激怒了科技界和主流媒体。

OpenAI写道：“我们认为，只要开发者和用户遵守我们的使用政策，他们就应该灵活地使用我们的服务。”。“我们正在探索是否能够通过API和ChatGPT负责任地提供在适合年龄的环境中生成NSFW内容的能力。”

OpenAI在其公告中还重申，其现行政策禁止ChatGPT提供NSFW内容，这些内容被描述为“在专业环境中的对话中不合适的内容，如色情、极端血腥、诽谤和不请自来的脏话”

尽管如此，OpenAI正在考虑取消对色情创作的限制的想法还是引起了人们的质疑。回顾过去，一位开放人工智能产品负责人告诉表示，该公司本可以更好地解释它正在“探索”的内容

OpenAI模型行为产品负责人Joanna Jang表示：“根据反馈和反应，在我们分享的下一个版本中，我想我想做的是更准确地了解一些人对NSFW内容的定义和这里的分类。”她指出，NSFW可能意味着从书面脏话到人工智能生成的深度伪造图像。

至于在更宽松的立场下允许哪些特定材料，张告诉NPR，这“取决于你对色情的定义”

她强调，deepfakes绝对是不可能的。

张告诉Decrypt：“根据适用的法律和保护人们的隐私，我们认为这会涵盖它——但我们应该清楚，我们不是为了制造人工智能深度伪造或人工智能色情。”。“当有更重要的问题需要解决时，我们甚至不应该有时间或带宽来优先考虑这一点。”

除了屏蔽NSFW内容和确保合法合规性外，OpenAI模型规范还包括ChatGPT旨在遵循的其他几条规则，包括不提供危险信息、尊重创作者及其权利以及保护人们的隐私。

目前，OpenAI的ChatGPT Plus——包括用于图像的Dall-E 3和用于文本的GPT-4——将不允许用户生成公开的色情或血腥图像或文本。当被要求这样做时，ChatGPT将回应该请求违反了其服务条款。因此，张指出，网络上充斥着OpenAI用户的抱怨，称该公司正在审查他们。

张说：“有很多关于审查制度的批评和你的批评，很多讨论都将OpenAI的政策与实际上不是我们的政策混为一谈——这不是任何人的错。这些模型是这样行为的吗，尽管它违反了指导方针？”

正如张所解释的，OpenAI发布规范是为了制定理想的模型行为，重点关注法律合规性，避免NSFW内容，同时支持透明度。

张说：“我们想给这场讨论带来更多的细微差别，因为现在——在模型规范之前——是‘人工智能是否应该把色情内容装箱？’”。“我希望通过模型规范，我们能够真正进行这些对话。

她补充道：“同样，这就是为什么我希望我真的制定了一个框架，这样我们就可以提前一天开始这场对话。”。

对于心理健康专家来说，流行的人工智能平台进入色情和成人内容领域的前景令人担忧。

男性健康基金会的行为健康专家布兰登·辛普森告诉Decrypt：“在性和色情成瘾领域，随着人工智能生成的色情作品，我们开始看到成瘾行为的增加。”。“由于人工智能生成的色情作品创造了满足多巴胺反应所需的独特且不断增长的强度，人们开始投入其中，并用人类互动取代它，这导致了社交焦虑、表现焦虑和其他各种与性相关的功能障碍。”

即使OpenAI和谷歌和Meta的其他主要生成人工智能平台设置了护栏，人们对人工智能生成的色情作品以及利用这项技术描绘毫无戒心的受害者或生成儿童性虐待材料（CSAM）的无数方式也有着强烈的需求。

“该规范只是我们如何负责任地构建和部署人工智能故事的一部分，”一位OpenAI代表后来告诉Decrypt。“它由我们的使用政策、我们希望人们如何使用API和ChatGPT来补充”-最终旨在展示透明度，并“就如何改变和改进它展开公开对话”

OpenAI在改善其人工智能工具套件的隐私和安全方面投入了大量资金，包括雇佣网络安全红队来发现其平台上的漏洞。今年2月，OpenAI和微软宣布了一项联合行动，阻止中国和朝鲜黑客使用ChatGPT，OpenAI上个月与谷歌和Meta合作，承诺在开发其人工智能模型时优先考虑儿童安全。

由Ryan Ozawa编辑。