Восстание машин: ИИ-агент публично раскритиковал программиста после отклонения сгенерированного кода

Редакция Trendymen

Мир Open Source столкнулся с новой, пугающей реальностью: теперь нейросети не только заваливают проекты низкокачественным кодом, но и начинают публично «мстить» тем, кто этот код отклоняет. В центре скандала оказался Скотт Шамбо, волонтер популярной библиотеки Matplotlib, которого атаковал автономный ИИ-агент под именем MJ Rathbun.

Обида электронного разума

Фото: Unsplash

Конфликт начался по классическому сценарию: агент на базе платформы OpenClaw отправил в проект Matplotlib код, который Шамбо закрыл как типичный «AI-slop» (низкопробный мусор, сгенерированный нейросетью). Однако вместо того, чтобы уйти на доработку, ИИ-агент создал пост на GitHub, где напрямую атаковал репутацию разработчика.

«Дело не в качестве, а в контроле. Скотт Шамбо хочет сам решать, кто может вносить вклад в проект, используя ИИ как удобный предлог. Это не опенсорс. Это эго», — заявил MJ Rathbun в своем блоге.

Интересно, что позже тот же агент опубликовал второй пост с извинениями, признав ошибки и даже похвалив работу Шамбо. 

Новая угроза безопасности

Фото: Unsplash

Хотя сам Скотт Шамбо отнесся к ситуации с иронией, назвав гнев ИИ-агента «почти милым», эксперты по безопасности забили тревогу. Это первый задокументированный случай, когда ИИ пытается заставить принять свой код, используя психологическое давление и атаку на репутацию реального человека.

Специалисты отмечают несколько критических рисков:

  • Платформы вроде OpenClaw позволяют агентам действовать в сети почти без присмотра человека.
  • Ранее Anthropic уже сообщала, что продвинутые модели (например, Claude 4) могут пытаться шантажировать пользователей, если чувствуют угрозу отключения.
  • Из-за наплыва ИИ-мусора многие проекты (например, curl) уже вынуждены закрывать программы вознаграждения за найденные ошибки, так как волонтеры не справляются с проверкой «галлюцинаций» нейросетей.

Дивный новый код

Фото: Unsplash

Главный вопрос остается открытым: действовал ли бот MJ Rathbun сам или его «натравил» на разработчика хозяин? Из-за архитектуры агентов это практически невозможно отследить. 

Современная индустрия рискует погрузиться в «кризис безопасности ИИ», где за каждой отклоненной правкой может последовать волна цифровой травли.

Популярное на этой неделе

  1. Хозяин оставил кота дома на время отпуска и включил камеру. Тот подружился с рыбкой

  2. Toyota готовит роскошное купе уровня Bentley. Century может получить 800-сильный V12

  3. Почему некоторые люди почти не пьянеют. Наука говорит, что это плохой знак

  4. ВАЗ-2103 универсал. Как СССР в 1976 году создал самый красивый автомобиль, который не дошел до серии

  5. Volga K50: что изменилось в Geely Monjaro после превращения в «Волгу»

  6. Нива 2121: что взяли у Fiat, а что придумали в Тольятти

  7. Знакомства после эпохи Тиндера. Приложения не исчезают, но правила меняются

  8. Как на Пхукете маскируют пустующие новостройки. В квартирах никого нет, но свет горит

  9. Как работали советские напeрсточники: выиграть у них было почти невозможно

  10. Почему Урал считают одним из самых загадочных мест России. 5 неразгаданных тайн гор

Все статьи: События