OpenAI представила отдельную версию ChatGPT для пользователей младше 18 лет. Продукт получил расширенные настройки безопасности и образовательные инструменты — компания рассчитывает снизить риски для несовершеннолетних и одновременно решить проблему списывания в школах.
Главное нововведение — «Режим обучения». Вместо готового ответа система задает наводящие вопросы и предлагает пошаговую поддержку, подталкивая подростка самостоятельно разобраться в теме. Если алгоритм замечает, что пользователь пытается получить готовое решение для домашнего задания, чат-бот показывает соответствующее напоминание и предлагает переключиться на обучающий формат. Родители смогут сделать этот режим включенным по умолчанию для аккаунта ребенка. В рамках режима также появятся тесты для самопроверки и визуализация прогресса обучения.
Родительский контроль и защита от опасного контента
Версия для подростков по умолчанию включает фильтры от вредоносных и неподходящих материалов. Родителям доступен отдельный набор инструментов, среди которых есть уведомления о потенциально опасных ситуациях, функция «тихого часа», ограничивающая доступ к чат-боту в определенные часы и управление настройками безопасности аккаунта ребенка.
Отдельно OpenAI анонсировала партнерство с CodeAI — оно должно помочь подросткам глубже понять принципы работы искусственного интеллекта, научиться правильно им пользоваться и критически относиться к полученным от него ответам. Ранее компания уже запускала версию ChatGPT для учителей, ориентированную на интеграцию ИИ в образовательный процесс.
Новый продукт был выпущен на фоне серии судебных исков против разработчиков чат-ботов: истцы связывают отсутствие достаточных мер защиты с самоубийствами подростков и другими случаями ухудшения психического состояния несовершеннолетних пользователей. ChatGPT появился в конце 2022 года и всего за несколько лет набрал 900 млн пользователей в неделю — задолго до того, как компания разработала отдельные механизмы защиты для подростковой аудитории.
Пока остается открытым вопрос, насколько устойчивыми окажутся новые ограничения — подростки традиционно демонстрируют изобретательность в обходе родительского контроля на разных платформах.
OpenAI делает ставку на сочетание технических барьеров и вовлечения родителей в контроль за использованием ИИ детьми.
Мнение ИИ
С точки зрения машинного анализа данных, запуск ChatGPT для подростков логично продолжает более широкую стратегию OpenAI по закреплению в образовательной сфере: компания уже открывала бесплатный доступ к ChatGPT Plus для школьных учителей, а в тот момент число еженедельных пользователей платформы оценивалось в 800 млн — сейчас эта цифра выросла до 900 млн. Такая последовательность шагов — сначала педагоги, затем ученики — напоминает выстраивание целой экосистемы вокруг школы, а не разовую реакцию на судебные иски.
Отдельного внимания заслуживает техническая развилка: система должна одновременно распознавать попытку списать и не мешать легитимному учебному запросу, а точность подобной классификации на практике редко бывает стопроцентной. История показывает, что родительский контроль на других платформах регулярно обходился через смену аккаунтов или устройств — останется ли «Режим обучения» исключением, покажет только массовое использование продукта.
Источник: cryptonews.net