ChatGPT для подростков: OpenAI внедряет защитные меры и контроль для юных пользователей

OpenAI выпустила специализированную версию ChatGPT с функцией родительского контроля для пользователей младше 18 лет, направленную на улучшение безопасности.

Если система обнаружит, что пользователь является лицом младше совершеннолетия, он будет автоматически переведен на соответствующую версию чат-бота, где будет ограничен доступ к графическому сексуальному контенту. В случаях, когда возникает серьезный кризис, могут быть привлечены правоохранительные органы.

Компания работает над технологией, позволяющей более точно определять возраст пользователя. Однако, если возникают сомнения или информация неполная, ChatGPT будет автоматически запускать версию, предназначенную для детей и подростков.

«Обеспечить правильный подход трудно, и даже самые современные системы иногда сталкиваются с проблемами в определении возраста. Если мы не уверены или имеем недостаточную информацию, мы выберем более безопасный подход и по умолчанию активируем подростковую версию ChatGPT, в то время как взрослые смогут подтвердить свой возраст для получения полного доступа», — отмечается в блоге.

Эти изменения были приняты в ответ на начала расследования со стороны Федеральной торговой комиссии США, которая собирается выяснить, как компании оценивают безопасность и методы монетизации цифровых ассистентов, а также какие меры принимаются для минимизации негативного влияния на детей и подростков.

В августе OpenAI объявила о своих планах по улучшению ChatGPT в контексте работы с «чувствительными ситуациями» после иска от семьи, которая обвинила чат-бота в участии в трагедии с их сыном.

В сентябре стало известно о намерениях компании внедрить механизм родительского контроля и перенаправлять конфиденциальные беседы на модели анализа.

«Мы ставим приоритет на безопасность, даже если это означает ограничение прав подростков на приватность и свободу. Это новая и значительная технология, и мы считаем, что защитные меры для несовершеннолетних должны быть серьезными. Принятые решения сложные, но, проконсультировавшись с экспертами, мы пришли к выводу, что это наилучший путь, и хотим открыто сообщать о своих намерениях», — написал CEO OpenAI Сэм Альтман.

К концу сентября в приложение будет внедрен родительский контроль, который позволит:

Также напомним, что в июле OpenAI представила режим для студентов в ChatGPT, позволяющий обучаться, работая над заданиями поэтапно, а не просто получая готовые ответы.