OpenAI"解禁"成人内容,是福是祸?

2025-10-15 | 来源: 凤凰网科技 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

AI带来如此多的挑战，OpenAI为何还要开拓“成人内容”领域？

今天凌晨，OpenAI CEO奥特曼发文，宣布ChatGPT将在未来几周推出新版本，并计划在今年12月推出更加全面的年龄分级系统，允许为成年用户提供成人内容。

奥特曼在文中提到，OpenAI一直对ChatGPT的内容进行严格的限制，特别是在心理健康方面。然而，他们也意识到，过于谨慎的内容限制对一些用户而言并不总是有趣，甚至可能影响使用体验。他强调，新开发的工具不仅能缓解心理健康问题，还能在大多数情况下安全地放宽内容限制。

奥特曼坦言，新的ChatGPT版本将展现更具个性化的回应方式，让AI表现得更像朋友一样互动，更符合人们的喜好，“我们希望ChatGPT变得更加亲切、自然，带有更多幽默和表情符号”。

行至模型能力的深水区，OpenAI发现，过于严格的内容限制已经不再是最佳选择。

奥特曼透露，OpenAI已经开发出一些新技术，能够在保证用户安全的前提下，提供更多自由度和多样化的内容。

万亿豪赌:OpenAI结盟芯片、云巨头,AI生态闭环了?

OpenAI与沃尔玛联手!ChatGPT中购物将成真

爆火全网的OpenAI Sora2,已经被网友们"玩坏"了!

因此，OpenAI计划在12月推出的年龄分级系统，将针对不同年龄段的用户提供定制化体验。对于成年用户，OpenAI将允许在通过“成年验证”的基础上生成包括成人内容在内的更多类型内容。

一系列调整背后，OpenAI正逐步放宽其在内容生成方面的限制，试图在满足用户需求和保障安全之间找到更合适的平衡点。随着AI技术的快速发展，如何在自由度和责任之间划清界限，成为了OpenAI和其他AI公司不可回避的难题。

AI，分级迫在眉睫

AI的快速发展带来了创新，但也暴露了严重的安全隐患。自杀引导、恶意伪造、肖像权侵犯、色情内容泛滥——这些问题层出不穷。

环球网在今年6月报道，美国佛罗里达州一名女子正起诉谷歌公司和由两名前谷歌员工创办的Character.AI平台，指控该平台人工智能（AI）聊天机器人“教唆”其14岁儿子自杀。8月，亚当·雷恩的父母在他们16岁的儿子自杀身亡后，对OpenAI提起了产品责任和非正常死亡诉讼。雷恩的家人在诉状中说，“ChatGPT‘积极’帮助亚当探索自杀方法”。

近期还有媒体报道，新泽西州一名认知受损的老人在赶赴AI提出的“约会”时，途中摔倒死亡。该AI产品为“比莉大姐”（Big Sis Billie），是由Meta在两年前推出的生成式AI聊天机器人。

不加约束的内容对不同类型用户产生了负面影响，也让OpenAI等巨头遭受谴责。

9月16日，OpenAI宣布计划推出专为18岁以下用户设计家长控制的“青少年”版本。该版本将自动识别未成年用户，并根据年龄限制匹配合适的内容。具体来说，它将屏蔽图像类和性相关内容，且在极少数用户出现心理危机时，系统还将启动紧急响应机制，必要时可联动执法部门进行干预。然而，这一举措并不是终点。