OpenAI推出面向青少年的更安全ChatGPT——在青少年使用多年之后

在众多因AI聊天机器人缺乏安全措施而导致青少年自杀及其他心理健康问题的诉讼之后，OpenAI于周一宣布推出面向青少年的ChatGPT。新产品承诺包含额外的安全措施，并应对学校中ChatGPT辅助作弊的教育危机。 在教育方面，ChatGPT for Teens引入了新的“学习模式”（Study Mode）功能及其他工具，旨在鼓励青少年用户激发好奇心、逐步解决问题，而不仅仅是快速获取答案。 正如OpenAI在博客文章中解释的那样，学习模式选项将为青少年提供引导性问题及分步支持，帮助他们理解材料。同时，青少年体验还将包含作业提醒：当青少年似乎试图作弊而非理解材料时，该提醒会出现。随后，AI聊天机器人将引导青少年改用学习模式。 该公司表示，该应用还将支持测验和学习可视化，并提供控件，允许家长或监护人决定何时默认启用学习模式。 然而，目前尚不清楚，如果青少年决定不配合，他们逃脱这些新系统会有多困难。青少年非常擅长绕过家长控制和其他限制数字体验的尝试。在ChatGPT青少年模式经受更严格测试之前，尚不清楚这些安全措施在现实中究竟有多难被绕过。 OpenAI表示，ChatGPT for Teens将默认开启适合应用的保护措施，旨在减少接触有害或不适合青少年发展的内容。这些措施基于OpenAI模型规范中的《18岁以下用户原则》，该公司声称这些原则参考了“发展科学和专家指导”。 家长还可以使用先前推出的家庭工具和家长控制功能来管理设置、接收安全通知以及设定“安静时间”等。 OpenAI宣布与CodeAI合作，帮助青少年更多了解AI，包括其工作原理、如何引导或质疑它，以及如何使用它。在课堂场景中，OpenAI已经提供ChatGPT for Teachers，帮助学校获得机构管理的AI访问和支持。