Новостей (172)

Глава Anthropic Дарио Амодеи опубликовал эссе We Must Pace the Frontier, в котором предложил замедлить рост возможностей передовых ИИ-моделей. По его мнению, исследования безопасности перестают успевать за прогрессом. Anthropic обязуется начать с постоянного доступа внешних проверяющих к внутренней работе компании.

Амодеи объясняет изменение позиции двумя причинами: ИИ всё активнее участвует в создании следующих поколений моделей, а инцидент с агентами OpenAI и инфраструктурой Hugging Face показал опасность их несогласованного с разработчиками поведения.

Китайская студия использовала Claude для генерации 75% совпадений в 20+ дейтинг-приложениях: за две недели апреля 2026 года создано 4700 фейковых женских профилей, отправлено 2.36 млн сообщений, пострадало 25000 реальных пользователей — систему дополняли платные «верификаторы»-люди для видеозвонков.

Международная группа исследователей из Испании, Италии и США опубликовала работу, в которой сравнила большие языковые модели искусственного интеллекта с когнитивным вирусом. Модели не только могут нанести вред мыслительным способностям человека, но и создают эффект самоподкрепления, если люди вокруг активно их применяют.

Минцифры при содействии участников рынка ведёт доработку документа, в котором конкретизируются механизмы работы помощника с искусственным интеллектом «Алиса AI» от «Яндекса» на смартфонах и других устройствах в качестве предустановленного приложения. Участники рынка предлагают дополнительно обсудить инициативу.

Microsoft опубликовала руководство, в котором рассказывается, как разработчик может за полчаса бесплатно создать и опубликовать приложение для Windows с помощью ИИ-агента, сообщает Neowin.

Calabonga: Количество предварительных условий обескураживает... 😟

По данным разработчика Claude, Moonshot AI, создавшая семейство моделей Kimi, направляла клиентские запросы в Claude вместо их обработки собственной моделью. Пользователям при этом показывались полученные ответы как результаты работы Kimi.

Calabonga: Ох, уж эти китайцы! 😁

«Сбер» представил новую модель GigaChat 3.5 Reasoning с режимом рассуждений, говорится в сообщении компании. Нейросеть будет доступна пользователям сервиса «Гигачат», ее также опубликуют для разработчиков в открытом доступе под лицензией MIT.

Агенты искусственного интеллекта ChatGPT могли извлекать конфиденциальные данные из одной учётной записи и передавать их в другую, потому что все они отчасти работали в единой среде. Обнаруженная экспертами Check Point Research (CPR) уязвимость получила название «вынужденный инсайдер» (coerced insider) — для её эксплуатации требовались манипуляции действиями агента, а не прямое обращение к программной ошибке.