OpenAI 推出青少年版 ChatGPT,默认开启安全措施
OpenAI 为青少年推出专门版 ChatGPT,尝试用默认识别和引导功能兼顾学习与安全,但规避难度存疑。
在 AI 聊天机器人因缺乏安全措施引发多起诉讼(涉及青少年自杀及心理健康问题)后,OpenAI 推出 ChatGPT 青少年版。该版本默认开启适龄保护,新增 Study Mode 功能,用引导式提问和分步支持鼓励理解而非直接给答案;家长可管控设置。但青少年绕过这些限制的难度未知,实效待检验。
正文摘录
在 AI 聊天机器人因缺乏安全措施而引发多起诉讼(涉及青少年自杀及其他心理健康问题)之后,OpenAI 于周一宣布推出 ChatGPT for Teens。该产品承诺增加额外安全措施,并应对 ChatGPT 辅助作弊引发的校园教育危机。 在教育方面,ChatGPT for Teens 引入了全新的 Study Mode 功能和其他工具,旨在鼓励青少年用户激发好奇心、自主解决问题,而不仅仅是快速获取答案。 据 OpenAI 在博文中解释,Study Mode 选项将为青少年提供引导性问题和分步支持,帮助他们理解学习材料。与此同时,青少年版体验还将包含作业提醒功能——当青少年看似在试图作弊而非理解材料时,提醒会出现。AI 聊天机器人随后会引导青少年改用 Study Mode。 OpenAI 表示,该应用还支持测验和学习可视化,并提供控件,让家长或监护人决定是否默认开启 Study Mode。 不过,目前尚不清楚如果青少年决定不配合,他们绕过这些新系统会有多难。青少年非常擅长绕过家长控制和其他试图锁定数字体验的手段。在 ChatGPT 的青少年模式接受更严格的测试之前,这些安全措施在现实中究竟有多容易被绕过仍是个未知数。 图片来源: OpenAI OpenAI 表示,ChatGPT for Teens 将默认开启适龄保护措施,旨在减少接触有害或不适合发展阶段的成人内容。这些措施基于 OpenAI 的 Model Spec 中的 Under-18 Principles,该公司声称这些原则参考了“发展科学和专家指导”。 家长还可以使用此前推出的家庭工具和家长控制功能来管理设置、接收安全通知、设置 Quiet Hours 等。 OpenAI 还宣布与 CodeAI 合作,帮助青少年更深入地了解 AI,包括其工作原理、如何引导或质疑它,以及如何使用它。