Анонсирован ChatGPT для подростков

Время на прочтение: 2 минут(ы)

Обновление ChatGPT планируется выпустить до конца сентября. Изменения позволят ИИ автоматически определять возраст пользователя и, если система определит, что пользователю менее 18 лет, подросток будет перенаправлен на специальную версию чат-бота с ограничениями, соответствующими возрасту.

«Мы ставим безопасность выше конфиденциальности и свободы для подростков», — подчеркнул генеральный директор OpenAI Сэм Альтман в своем блоге.

Это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в серьезной защите.

Даже при возникновении сомнений относительно возраста компания обещает перестраховаться и всё равно предложит ответы, предназначенный для лиц младше 18 лет. Возможно также потребуется предоставление удостоверения личности в отдельных странах или ситуациях, несмотря на потенциальные проблемы с конфиденциальностью взрослых пользователей.

Для взрослых OpenAI планирует разработать способы подтверждения своего возраста, чтобы совершеннолетние смогли пользоваться полной версией сервиса. Однако подробностей пока нет.

Версия ChatGPT для подростков запретит доступ к контенту сексуального характера и направит службу поддержки на помощь пользователям, испытывающим серьезные эмоциональные трудности, вплоть до привлечения правоохранительных органов. Кроме того, новый алгоритм обучат избегать разговоров на тему флирта, суицида или членовредительстве, даже в рамках творческих заданий.

Несмотря на предупреждения исследователей о легкости обхода возрастных ограничений, взрослые пользователи смогут свободно вести беседы, включая разговоры на личные темы.

Помимо технической стороны вопроса, руководство OpenAI намерено ввести родительские настройки, позволяющие им контролировать использование детьми чат-бота от OpenAI. Родители получат возможность отслеживать активность ребенка, получать уведомления об опасных запросах и устанавливать ограничения на использование ресурса.

Меры были анонсированы вскоре после иска против компании после гибели подростка, которую связывают с использованием ChatGPT. Компания признала тяжесть последствий недавней трагедии и выразила готовность сотрудничать с родителями и регуляторами.

Открытые слушания Сената штатов показали растущую обеспокоенность общественности действиями компаний-разработчиков искусственного интеллекта. Представители общественных организаций призвали Конгресс принять комплекс мер для защиты подростков от потенциально опасного влияния алгоритмов, включая установление стандартов возрастной верификации и ответственности платформ за последствия использования пользователями сервисов ИИ.

Эксперты подчеркнули важность законодательных изменений, направленных на повышение прозрачности и ответственность разработчиков перед несовершеннолетними пользователями.

Другие позитивные новости
ИИ сократил время подбора персонала

---

Использованы материалы:
https://openai.com/index/teen-safety-freedom-and-privacy/
https://openai.com/index/building-towards-age-prediction/

♯ ИИ ♯ искусственный интеллект ♯ новости про ChatGPT ♯ новые технологии ♯ технологии GPT