OpenAI针对未成年用户加强ChatGPT安全防护,宣布推出专为13至17岁用户设计的“青少年版ChatGPT”,除了限制部分高风险内容,也加入家长监护、学习辅助及年龄识别机制,希望降低未成年人使用AI聊天机器人时可能面对的风险。

根据OpenAI于18日公布的资料,当系统判断用户可能未满18岁,或用户自行填写的年龄介于13至17岁之间,青少年模式将自动启用。

在安全方面,这个版本将对自残、暴力及饮食失调等敏感及高风险话题实施更严格限制,避免系统在相关情况下提供不适当内容。

家长也可通过监护功能管理部分使用设定,包括为孩子设定“休息时间”。如果系统侦测到青少年在对话中涉及特定敏感内容,家长也可能收到相关通知。

除了加强安全管控,OpenAI也把学习功能列为青少年模式的重点之一,希望AI扮演辅助学习角色,而不是单纯代替学生完成作业。

相关功能包括引导学生逐步思考的“学习模式”、作业提醒、小测验及视觉化学习工具,让学生通过互动方式理解内容,而非直接取得完整答案。

OpenAI指出,公司希望AI能够扩大教育机会,让学生即使在课外时间,或暂时找不到老师及其他协助时,也能获得适当的学习支援。

近年来,随着聊天机器人越来越能够模拟真人对话,部分用户也开始把AI当成倾诉或情绪支持对象,未成年人使用AI所带来的心理健康与安全问题因此受到更多关注。

OpenAI此前也面对数起涉及儿童及青少年使用ChatGPT的诉讼,部分案件指控平台的安全机制不足。另一方面,专家也持续提醒,AI不应被当成专业心理健康服务的替代品,尤其涉及自残、严重情绪困扰或其他高风险情况时,更需要现实世界中的专业协助。

教育界同样关注学生过度依赖AI完成作业的问题。若AI直接代替学生思考,虽然能够快速取得答案,却可能削弱理解、分析及独立解决问题的过程,因此新模式强调“引导学习”而非“直接代做”。

根据皮尤研究中心今年稍早公布的调查,美国青少年使用AI最常见的用途,是搜索资料及寻求功课协助,其次才是娱乐用途,显示AI已逐渐成为学生日常学习工具之一。

目前,OpenAI规定用户必须年满13岁,或达到所在国家及地区规定的最低合法使用年龄。

为了进一步识别未成年用户,OpenAI计划综合用户自行申报的年龄、账号特征、使用行为及身份验证机制,推算用户实际年龄。

若系统无法确认用户是否已经成年,将优先采用较严格的安全设定,以减少未成年人误进入成人使用模式的风险。

对于家长而言,青少年版ChatGPT虽然增加了监护与安全功能,但并不代表所有风险都能完全交由系统处理。了解孩子如何使用AI、使用AI处理什么问题,以及是否过度依赖聊天机器人,仍然是家庭数码教育的重要一环。

上一则新闻爱运动又懂预防医学 48岁3宝妈确诊胰脏癌末期
下一侧新闻宇树科技首日飙629% 市值一度冲4450亿人民币