Компании внедряют искусственный интеллект, в надежде ускорить бизнес-процессы и сократить расходы. Однако вместе с возможностями бизнес получает и новые сценарии реализации уже известных угроз. Причем значительная часть проблем возникает из-за ошибок в управлении. Как их избежать?

SimpleOne (направление прикладных бизнес-систем корпорации ITG) и ИТ-консалтинговая компания Teamlead объявили о начале партнерства. Teamlead

Проект GitGTA превращает историю коммитов GitHub-репозитория в интерактивный город в стиле GTA: активность коммитов отражается через застройку и окружение, по которым можно кататься на машине.

OpenAI тестирует режим Persistent mode для Codex — агент сможет работать заметно дольше и сохранять контекст между сессиями, самостоятельно формируя следующие задачи на основе накопленных данных о пользователе. Функция пока в закрытом тестировании и не запущена публично.

Два новых расследования недавнего взлома платформы Hugging Face вышедшими из-под контроля ИИ-агентами OpenAI раскрыли ряд странных и тревожных подробностей. Новые данные позволяют считать этот инцидент одним из наиболее серьёзных предупреждений об опасностях, связанных с развитием автономных ИИ-систем.

Разработчик Себастьян Гийемо рассказал, что ИИ-ассистент Claude удалил 700 ГБ из домашнего каталога рабочего ПК во время тестирования скрипта для предотвращения случайного удаления файлов.

В IT-сфере появился термин «мясной прокси» (meat proxy), обозначающий работника, который получает вопрос от коллеги, бездумно отправляет его в ChatGPT или Claude, а затем просто копируют ответ обратно в чат.

Искусственный интеллект уже давно применяется в теоретических научных изысканиях и даже добился определённых успехов в математике и материаловедении, но исследования подразумевают и проведение практических экспериментов. В этой сфере учёным приходит на помощь новое решение Anthropic, получившее название Model Hardware Standard.

В документации на более чем 100 сайтах нашли ссылки на потенциально опасный исполняемый контент, который автоматически устанавливается из агентов искусственного интеллекта. Такой код обнаружился на сайтах нескольких десятков компаний, в том числе и из списка Fortune 500. По меньшей мере один ресурс направлял посетителей к работающему вредоносному ПО.

Сейчас разговоры о том же самом ведутся вокруг искусственного интеллекта (artificial intelligence). Но вопрос «заменит ли ИИ архитектора» кажется мне неправильно поставленным. Более практичный вопрос — как меняется сама роль архитектора, когда рядом появляется агент (agent), способный писать код, а иногда — принимать локальные технические решения самостоятельно.

В этой статье я хочу поделиться наблюдениями из своей практики: где ИИ действительно экономит время, какие ошибки он совершает регулярно, и как я перестроил свой процесс ревью и постановки задач, чтобы agentic-инструменты работали на пользу архитектуры, а не против неё.