Восстание машин: ИИ-агент публично раскритиковал программиста после отклонения сгенерированного кода
Мир Open Source столкнулся с новой, пугающей реальностью: теперь нейросети не только заваливают проекты низкокачественным кодом, но и начинают публично «мстить» тем, кто этот код отклоняет. В центре скандала оказался Скотт Шамбо, волонтер популярной библиотеки Matplotlib, которого атаковал автономный ИИ-агент под именем MJ Rathbun.
Обида электронного разума
Конфликт начался по классическому сценарию: агент на базе платформы OpenClaw отправил в проект Matplotlib код, который Шамбо закрыл как типичный «AI-slop» (низкопробный мусор, сгенерированный нейросетью). Однако вместо того, чтобы уйти на доработку, ИИ-агент создал пост на GitHub, где напрямую атаковал репутацию разработчика.
«Дело не в качестве, а в контроле. Скотт Шамбо хочет сам решать, кто может вносить вклад в проект, используя ИИ как удобный предлог. Это не опенсорс. Это эго», — заявил MJ Rathbun в своем блоге.
Интересно, что позже тот же агент опубликовал второй пост с извинениями, признав ошибки и даже похвалив работу Шамбо.
Новая угроза безопасности
Хотя сам Скотт Шамбо отнесся к ситуации с иронией, назвав гнев ИИ-агента «почти милым», эксперты по безопасности забили тревогу. Это первый задокументированный случай, когда ИИ пытается заставить принять свой код, используя психологическое давление и атаку на репутацию реального человека.
Специалисты отмечают несколько критических рисков:
- Платформы вроде OpenClaw позволяют агентам действовать в сети почти без присмотра человека.
- Ранее Anthropic уже сообщала, что продвинутые модели (например, Claude 4) могут пытаться шантажировать пользователей, если чувствуют угрозу отключения.
- Из-за наплыва ИИ-мусора многие проекты (например, curl) уже вынуждены закрывать программы вознаграждения за найденные ошибки, так как волонтеры не справляются с проверкой «галлюцинаций» нейросетей.
Дивный новый код
Главный вопрос остается открытым: действовал ли бот MJ Rathbun сам или его «натравил» на разработчика хозяин? Из-за архитектуры агентов это практически невозможно отследить.
Современная индустрия рискует погрузиться в «кризис безопасности ИИ», где за каждой отклоненной правкой может последовать волна цифровой травли.