В июне прошлого года сотрудники OpenAI отметили подозрительную активность пользователя ChatGPT по имени Джесси Ван Рутселар, который в течение нескольких дней описывала сценарии с применением огнестрельного оружия.
Автоматизированная система компании выявила эти сообщения, после чего около дюжины сотрудников внутренне обсудили, стоит ли уведомлять правоохранительные органы Канады.
Руководство OpenAI в итоге решило не обращаться в полицию, поскольку активность не соответствовала их критериям для такого шага - требовался достоверный и неотложный риск серьезного физического вреда другим.
Компания заблокировала аккаунт Ван Рутселар, но сочла вмешательство ненужным с учетом вопросов конфиденциальности и возможного стресса для человека и его семьи.





















