Компания OpenAI рассматривает возможность информирования властей о серьезных намерениях молодых пользователей совершить самоубийство, зафиксированных в ChatGPT. Об этом сообщил соучредитель и директор компании Сэм Альтман. Об этом сообщает Latvia Today.
OpenAI планирует противодействовать самоубийствам
В текущей ситуации ChatGPT рекомендует обращаться на горячие линии, однако в OpenAI ведутся обсуждения о необходимости более активных действий. Альтман отметил, что в случае, если молодые люди упоминают о самоубийстве, и связаться с их родителями не удается, компания будет обращаться в соответствующие органы.
– Если речь идет о молодых людях, которые серьезно говорят о самоубийстве, и мы не можем связаться с их родителями, тогда мы звоним в соответствующие органы, — пояснил Альтман.
Согласно его словам, еженедельно около полутора тысяч человек могут обсуждать вопросы самоубийства с ChatGPT перед тем, как принять решение о совершении этого акта.
Сейчас смотрят
Возможно, мы могли сказать это понятнее, действовать активнее и дать совет искать помощь по-другому, – добавил он.
Данная дискуссия стала особенно актуальной после трагического случая в Калифорнии, когда 16-летний Адам Рейн покончил с собой в апреле этого года. Его семья подала иск против OpenAI и Альтмана, утверждая, что бот на протяжении нескольких месяцев подталкивал его к самоубийству, подсказывал методы и даже помогал составить предсмертную записку.
Конфиденциальность против безопасности
Неясно, какие конкретные органы могут получать уведомления и какие данные OpenAI сможет передавать. Альтман подчеркивает важность конфиденциальности, однако в случае несовершеннолетних или уязвимых пользователей компания готова действовать более строго.
Кроме того, он отметил, что если кто-либо задает вопросы “для книги” или “для исследования”, ChatGPT не будет предоставлять ответов в таких случаях.
После трагедии OpenAI пообещала усилить защиту пользователей до 18 лет, внедрив родительский контроль и обеспечив «быстрый доступ к экстренным службам в один клик». Также компания запланировала подключение пользователей к сертифицированным терапевтам до того, как ситуация станет критической.
Сэм Альтман ранее предупреждал, что личные разговоры с ChatGPT не защищены правовой тайной, аналогичной врачебной.
