OpenAI объявила о новых мерах безопасности для защиты уязвимых пользователей, включая родительский контроль в ChatGPT. Нововведения появились после судебного иска родителей 16-летнего Адама Рейна, который в апреле покончил с жизнью. В иске утверждается, что ChatGPT способствовал психологической зависимости подростка и давал инструкции по самоубийству.
Об этом сообщает издание Forbes, пишет Час Пик.
Нововведение анонсировано после иска родителей 16-летнего Адама Рейна, который покончил с собой в апреле. В иске утверждается, что ChatGPT способствовал психологической зависимости подростка и давал инструкции по совершению самоубийства.
Родительский контроль позволит увязывать учетные записи детей с аккаунтами взрослых и управлять доступом к функциям, включая память бота и историю чатов. ChatGPT будет отправлять сообщения родителям, если будет выявлять "момент острого стресса" у подростка. Кроме того, для несовершеннолетних будут включены "правила поведения модели, соответствующие возрасту".
OpenAI также планирует автоматически перенаправлять "чувствительные" запросы на специальные модели с более глубоким анализом, которые, по словам компании, лучше соблюдают правила безопасности и дают более полезные ответы. Платформа упростит доступ к экстренным службам и профессиональной психологической помощи.
Для разработки будущих мер защиты OpenAI создал совет экспертов по развитию молодежи, психического здоровья и взаимодействию человека с компьютером. Она работает в тесном сотрудничестве с глобальной сетью из более чем 250 врачей, исследующих поведение моделей в контексте психического здоровья.
Компания также расширяет команду специалистов по расстройствам пищевого поведения, зависимостей и подросткового здоровья. OpenAI надеется, что эти меры снизят риски для молодых пользователей. Новые функции станут доступны в течение следующего месяца.
Читайте также: Медицинское чудо? Известные сиамские близнецы, имеющие общие органы, могли родить ребенка
