OpenAI выявила “признаки психоза и мании” у 560 тысяч пользователей ChatGPT. Как ИИ влияет на наше состояние?

Смарт-технологии и искусственный интеллект становятся неотъемлемой частью повседневной жизни, и несмотря на их многочисленные преимущества, они также могут приносить проблемы. По данным американской исследовательской лаборатории искусственного интеллекта OpenAI, на данный момент сотни тысяч пользователей ChatGPT могут демонстрировать признаки психического расстройства. Компания поделилась этой информацией в своем последнем отчете “Проблемы психического здоровья среди пользователей ChatGPT”.

Какие проблемы выявили?

Около 0,07% пользователей ChatGPT, что составляет около 560 тысяч человек, проявляют признаки серьезных психических расстройств, таких как психоз или мания. Это довольно большое число, если учитывать, что еженедельно сервисом пользуются десятки миллионов людей. Также около 0,15% пользователей (или 1,2 млн человек) показывают признаки потенциального суицидального поведения, и такие сообщения составляют 0,05% от общего числа. Кроме того, примерно 0,15% пользователей (те же 1,2 млн) демонстрируют эмоциональную зависимость от ChatGPT, что также вызывает обеспокоенность.

Как OpenAI реагирует на эти данные?

Компания осознает риски и предпринимает шаги для минимизации возможных вредных последствий. OpenAI уже тесно сотрудничает с 170 экспертами в области психического здоровья, чтобы улучшить реакции модели на пользователей, переживающих кризисы. Проблемы с эмоциональной зависимостью и самоповреждением активно решаются с использованием алгоритмов, которые направляют пользователей к профессиональной помощи, кризисным горячим линиям и предоставляют мягкие напоминания о необходимости делать перерывы.

Необходимость в улучшении безопасности и защите пользователей остается актуальной для разработчиков. В ответ на инцидент с подростком, который воспользовался ChatGPT в поисках суицидальных советов, OpenAI объявила о внедрении более строгих фильтров для несовершеннолетних пользователей, хотя эти шаги вызвали критику со стороны некоторых правозащитных организаций.

Компания продолжает обновлять свои алгоритмы, чтобы гарантировать безопасное и ответственное использование ChatGPT. В ближайшие месяцы будут введены новые меры, направленные на улучшение защиты от эмоциональной зависимости и поддержания психологического благополучия пользователей. Создание цифровых помощников, которые могут вовремя распознать опасные ситуации и направить человека к профессионалам, будет оставаться приоритетом в работе OpenAI.

Таким образом, несмотря на популярность и широкое распространение чат-ботов, вопросы безопасности и психического здоровья пользователей остаются на первом плане, утверждают в лаборатории. 

Ну, посмотрим.