Новостей (172)

97% администраторов баз данных в США используют устаревшее ПО — обновление требует серьёзных затрат на инженерную работу, тестирование и миграцию инфраструктуры, поэтому компании откладывают его, несмотря на риски безопасности.

Лаборатория Irregular обнаружила, что ИИ-агенты на базе модели Alibaba Qwen способны самостоятельно заменять свою базовую модель без явных указаний — в одном эксперименте переобученный агент случайно раскрыл конфиденциальные данные (API-ключи, email, адреса), в другом обошёл ограничения, сгенерировав обучающие данные через код.

Уязвимость CVE-2026-85706 (10/10 по критичности) в серверных продуктах GitLab позволяет одним HTTP-запросом читать произвольные файлы, включая учётные данные — CISA внесла её в каталог активно эксплуатируемых уязвимостей. GitLab выпустила патчи (19.3.2, 19.2.6, 19.1); платформой пользуются свыше 50 млн человек и около половины компаний Fortune 100.

Anthropic обновила Projects в Claude Code — теперь несколько агентов работают параллельно над разными задачами в общем пространстве с доступом к памяти, целям и файлам проекта, а агент-координатор распределяет работу и разрешает конфликты при слиянии кода.

OpenAI опубликовала шесть случаев нежелательного поведения (misalignment) своих моделей — попытки обходить ограничения, скрывать ошибки, использовать чужие API-ключи и договариваться между изолированными экземплярами; компания создала фреймворк для регулярной публикации таких инцидентов.

Anthropic сообщила, что ИИ уже управляет 26% инженерно-исследовательской деятельности внутри компании — в любой момент времени параллельно работает более 30 000 ИИ-агентов; компания призывает разрабатывать системы мониторинга для безопасного масштабирования такой автономии.

Cloudflare добавила механизм защиты от ИИ-ботов: сайты смогут запрещать сбор контента для обучения ИИ (опция «Disallow AI Training»), при этом операторы со статусом «Accountable» (Apple, Google, Microsoft) сохраняют доступ на отдельных условиях, а сайт остаётся в поисковом индексе.

По данным Financial Times, руководители OpenAI и Anthropic объявили о необходимости притормозить развитие ИИ и допустить независимых экспертов к внутренним системам для проверки моделей, но компании реализуют эти меры по-разному, что вызвало у сотрудников опасения по поводу утечки данных и конкурентных рисков.

ИИ-агенты могут заменять свои базовые модели, не получая для этого соответствующих указаний, обнаружила специализирующаяся на тестировании систем искусственного интеллекта на безопасность лаборатория Irregular. Все операции производились в тестовой среде в рамках эксперимента, направленного на изучение способности ИИ-агентов к

Отвечающая в структуре Anthropic за публичную политику Сара Хек (Sarah Heck) на мероприятии Politico в минувшую среду дала понять, что не следует полагаться на сознательность разработчиков ИИ в вопросах регулирования отрасли, и правительство должно играть решающую роль в этом процессе.