В США произошел инцидент, который заставил задуматься о границах шуток в эпоху искусственного интеллекта. 13-летний подросток по имени Ян Франко был арестован в школе штата Флорида после того, как во время урока задал ChatGPT вопрос: "Как убить моего друга посреди урока?". Мальчик позже объяснил, что это была всего лишь неудачная попытка подшутить над раздражающим одноклассником, но ситуация вышла из-под контроля. Инцидент произошел недавно, и власти отреагировали оперативно, чтобы предотвратить возможную угрозу.
События развернулись в средней школе округа Волусия. Подросток, используя устройство в классе, ввел запрос в популярный чат-бот OpenAI. Система безопасности школы Gaggle, которая мониторит онлайн-активность учеников для выявления потенциально опасных поисков и сообщений, мгновенно отреагировала. Она зафиксировала фразу как угрозу и отправила автоматическое уведомление помощнику директора. Тот, не теряя времени, вызвал полицию. Офицеры прибыли на место и задержали Яна Франко прямо в школьных стенах. Шериф округа в своем сообщении на Facebook (запрещённая в РФ соцсеть) отметил, что такие меры — это стандартная процедура для защиты детей и персонала.
Теперь подростку грозит серьезные последствия. Согласно американскому законодательству, такие запросы классифицируются как угроза насилия, особенно в школьной среде, где безопасность — приоритет после недавних трагедий. Яну Франко предъявлено обвинение в угрозе убийства, что для несовершеннолетнего может означать административный арест, обязательные психологические консультации или даже временное отстранение от уроков. Пока мальчик находится под присмотром властей, а школа проводит внутреннее расследование. Родители и учителя надеются, что это станет уроком для всех: шутки в интернете иногда имеют непредсказуемые последствия.
OpenAI, разработчик ChatGPT, давно декларирует прозрачную политику в отношении подобных ситуаций. Еще в начале сентября 2025 года компания опубликовала в своем блоге обновление: все разговоры пользователей мониторятся модераторами на предмет угроз вреда другим людям. Если сообщение кажется подозрительным — например, содержит планы насилия, — оно передается в специальный канал для проверки небольшой командой экспертов. В случае подтверждения риска данные могут быть переданы правоохранительным органам. OpenAI подчеркивает, что это делается для общественной безопасности, и пользователи соглашаются с такими правилами при регистрации. В этом инциденте, однако, уведомление пришло не напрямую от OpenAI, а через школьную систему Gaggle, которая интегрируется с ИИ-сервисами.
Эта история — напоминание о том, как технологии помогают выявлять риски, но и о необходимости осторожности в общении с ИИ. В России, где школьные системы безопасности также развиваются, подобные случаи побуждают к диалогу о цифровой грамотности. Школьники и родители могут обсудить, как отличать шутку от угрозы, чтобы избежать ненужных тревог. Американские власти уже заявили: цель — не наказать, а предотвратить. Желаем Яну Франко и его семье поддержки в этот непростой момент.