В Бразилии 36-летнего фермера задержали после того, как он несколько недель писал ChatGPT о намерении избавиться от своего восьмилетнего сына и причинить вред другим людям. OpenAI передала информацию ФБР, а американские власти уведомили бразильскую полицию. Сам мужчина отрицает намерение причинить кому-либо вред, а обвинения ему пока не предъявлены, пишет Digital Business.
Историю описала Бразильская служба Би-би-си. По данным издания, это один из редких случаев, когда сигнал от разработчика ИИ стал поводом для полицейской проверки. Теперь следствию предстоит установить, были ли сообщения в чате лишь словами или мужчина действительно предпринимал конкретные шаги.
Переписка с ChatGPT продолжалась почти два месяца
Мужчина, имя которого Би-би-си не раскрывает ради защиты его сына, почти два месяца общался с ChatGPT. В переписке он, по данным полиции, обсуждал возможность причинить вред ребенку, другим людям и самому себе.
В одном из сообщений фермер писал, что хотел разобраться, откуда у него возникает желание причинять людям страдания. В другом рассказывал о намерении избавиться от сына.
Именно содержание этих разговоров в итоге привлекло внимание OpenAI. Компания передала информацию Федеральному бюро расследований США, после чего ФБР уведомило бразильские власти.
Полиция штата Эспириту-Санту получила данные за несколько дней до задержания мужчины.
«Мы дали этому делу приоритетный статус из-за его серьезности, а также потому, что отец предположительно планировал причинить вред сыну до 20 июня», – рассказал СМИ руководитель отдела полиции по борьбе с киберпреступностью штата Бренну Андраде.
Полиция нашла в доме подозреваемого веревку и неизвестные вещества
Мужчину задержали 19 июня в сельской местности муниципалитета Сан-Габриэл-да-Палья.
Во время обыска правоохранители обнаружили четыре бутылки с неустановленными веществами и веревку с завязанной петлей. По версии следствия, эти предметы могли иметь отношение к планам мужчины причинить вред себе.
Полиция также изучает сообщения, в которых он, как утверждается, рассуждал о нападениях на школы, церкви и сотрудников правоохранительных органов.
Следователи считают, что мужчина искал в интернете информацию о токсичных веществах, в том числе рицине, а также пытался обходить защитные ограничения ChatGPT, переформулируя запросы.
«Все, о чем сообщила платформа, подтвердилось, когда полицейские прибыли на место», – заявил Андраде.
При этом сам мужчина отрицает, что собирался причинить вред сыну.
Обвинений пока нет
После 54 дней под стражей мужчина был освобожден 13 августа. Обвинения ему пока не предъявлены, расследование продолжается.
Сейчас он обязан носить электронный браслет и не может контактировать с сыном или матерью ребенка.
Следователи изучают его телефон и ждут результатов экспертизы изъятых предметов. Кроме того, им предстоит выяснить, предпринимал ли мужчина какие-либо конкретные действия для реализации своих намерений.
Отдельно проверяется его утверждение о том, что он якобы связывался с человеком, которого мог нанять для причинения вреда другим.
Защита настаивает, что никаких подобных действий не было.
«Если разговоры с искусственным интеллектом и всякая чушь, сказанная ему, – это преступление, тогда в тюрьму придется отправить всех», – заявил Би-би-си адвокат мужчины Педру Паулу Песси.
Новая задача для ИИ?
История интересна не только самим расследованием. Она поднимает гораздо более широкий вопрос: что должен делать чат-бот, если во время общения распознает потенциальную угрозу конкретному человеку?
В OpenAI сообщили Бразильской службе Би-би-си, что компания может уведомлять правоохранительные органы, если обнаруживает «достоверную и непосредственную угрозу причинения вреда другим людям».
При этом следователи получили от компании данные пользователя и его сообщения, но не ответы ChatGPT.
«Мы не получили ответов, которые ему давались», – отметил Андраде.
Именно это уже вызывает вопросы с точки зрения доказательств.
Юристы спорят, достаточно ли переписки с ИИ
Адвокат по уголовным делам Маира Фернандес считает, что для оценки подобных сообщений необходим весь контекст общения.
По ее словам, нельзя рассматривать отдельные фразы без полной истории диалога – важно понимать, как развивался разговор и отвечал ли чат-бот на высказывания пользователя или каким-либо образом влиял на направление беседы.
Другой эксперт, профессор цифрового права Патрисия Пек, считает, что ИИ постепенно становится не просто инструментом для работы с информацией, но системой, которая может выявлять определенные модели поведения.
При этом она также говорит о необходимости четких границ.
Если сообщения указывают не просто на абстрактные рассуждения, а на конкретного потенциального пострадавшего, наличие средств и непосредственный риск, у технологической компании, по ее мнению, может возникнуть этическая, а в некоторых случаях и юридическая обязанность вмешаться.
Но превращать подобные механизмы в постоянный контроль за пользователями, считает Пек, также опасно.
Это не первый подобный случай
Случаи, когда технологические компании передают правоохранителям информацию о потенциально опасном поведении пользователей ИИ, пока остаются редкими.
В августе OpenAI также передала ФБР информацию о 25-летнем жителе Флориды после его сообщений о намерении причинить вред бывшей девушке, сообщали американские СМИ.
Бразильская полиция называет дело фермера первым подобным случаем в штате Эспириту-Санту и третьим во всей стране, когда проверка началась после сигнала от самой ИИ-системы.
При этом в Бразилии еще предстоит установить, достаточно ли собранных материалов для предъявления обвинений. Пока расследование продолжается, а мужчина остается под установленными судом ограничениями.