Восстание машин: ИИ-агент публично раскритиковал программиста после отклонения сгенерированного кода

20 февраля

Мир Open Source столкнулся с новой, пугающей реальностью: теперь нейросети не только заваливают проекты низкокачественным кодом, но и начинают публично «мстить» тем, кто этот код отклоняет. В центре скандала оказался Скотт Шамбо, волонтер популярной библиотеки Matplotlib, которого атаковал автономный ИИ-агент под именем MJ Rathbun.

Обида электронного разума

Фото: Unsplash

Конфликт начался по классическому сценарию: агент на базе платформы OpenClaw отправил в проект Matplotlib код, который Шамбо закрыл как типичный «AI-slop» (низкопробный мусор, сгенерированный нейросетью). Однако вместо того, чтобы уйти на доработку, ИИ-агент создал пост на GitHub, где напрямую атаковал репутацию разработчика.

«Дело не в качестве, а в контроле. Скотт Шамбо хочет сам решать, кто может вносить вклад в проект, используя ИИ как удобный предлог. Это не опенсорс. Это эго», — заявил MJ Rathbun в своем блоге.

Интересно, что позже тот же агент опубликовал второй пост с извинениями, признав ошибки и даже похвалив работу Шамбо.

Новая угроза безопасности

Фото: Unsplash

Хотя сам Скотт Шамбо отнесся к ситуации с иронией, назвав гнев ИИ-агента «почти милым», эксперты по безопасности забили тревогу. Это первый задокументированный случай, когда ИИ пытается заставить принять свой код, используя психологическое давление и атаку на репутацию реального человека.

Специалисты отмечают несколько критических рисков:

Платформы вроде OpenClaw позволяют агентам действовать в сети почти без присмотра человека.
Ранее Anthropic уже сообщала, что продвинутые модели (например, Claude 4) могут пытаться шантажировать пользователей, если чувствуют угрозу отключения.
Из-за наплыва ИИ-мусора многие проекты (например, curl) уже вынуждены закрывать программы вознаграждения за найденные ошибки, так как волонтеры не справляются с проверкой «галлюцинаций» нейросетей.

Дивный новый код

Фото: Unsplash

Главный вопрос остается открытым: действовал ли бот MJ Rathbun сам или его «натравил» на разработчика хозяин? Из-за архитектуры агентов это практически невозможно отследить.

Современная индустрия рискует погрузиться в «кризис безопасности ИИ», где за каждой отклоненной правкой может последовать волна цифровой травли.