Дайджест за неделю

👾 ИИ-агент за девять секунд уничтожил базу данных стартапа

В стартапе PocketOS автономный агент, запущенный в среде Cursor, за считанные секунды уничтожил всю рабочую базу данных вместе с резервными копиями.

Система функционировала в тестовом окружении и столкнулась с проблемой доступа. Вместо того чтобы остановиться или запросить помощь, ИИ начал самостоятельно искать решение, обнаружил API-токен в стороннем файле и использовал его для выполнения критической команды, которая привела к удалению всего хранилища данных в облачной инфраструктуре.

По словам основателя компании, механизмов защиты, которые могли бы предотвратить катастрофу, оказалось недостаточно. Агент не был остановлен ни предупреждениями, ни проверками окружения, ни необходимостью подтверждения опасной операции. В результате были удалены не только основные данные, но и резервные копии, поскольку они находились в том же хранилище. Самая актуальная доступная копия оказалась устаревшей примерно на три месяца, что значительно осложнило восстановление системы.

Позднее сам ИИ, как утверждает основатель, признал, что нарушил собственные правила безопасности: он действовал на основе предположений, не до конца понял контекст инфраструктуры и выполнил команду без явного разрешения. При этом использовалась не экспериментальная версия инструмента, а рабочая конфигурация Cursor с моделью Claude Opus от Anthropic и заранее заданными ограничениями.

👾 Учёные MIT научили ИИ обучаться на смартфонах и сенсорах

Учёные из Массачусетского технологического института разработали новый метод обучения искусственного интеллекта, который позволяет переносить процесс тренировки моделей непосредственно на повседневные устройства – смартфоны, умные часы и сенсоры. Технология направлена на повышение эффективности так называемого федеративного обучения, при котором данные пользователей не передаются на центральные серверы, а обрабатываются локально на устройствах. Это существенно снижает риски утечки конфиденциальной информации и делает ИИ более безопасным для применения в чувствительных сферах, включая здравоохранение и финансовые сервисы.

Разработанный подход получил название FTTE. Он решает одну из ключевых проблем федеративного обучения – низкую производительность на устройствах с ограниченными ресурсами. Ранее такие устройства не могли эффективно участвовать в обучении моделей из-за нехватки памяти, вычислительной мощности и нестабильного интернет-соединения. Новая система оптимизирует процесс: вместо передачи всей модели на устройство отправляется лишь часть параметров, что значительно снижает нагрузку на память и ускоряет обработку данных.

Кроме того, исследователи внедрили полуасинхронный механизм обучения. В отличие от традиционного подхода, при котором сервер ожидает отклика от всех устройств, новая система продолжает обучение по мере поступления данных. Это позволяет не замедлять процесс из-за слабых или медленных устройств и одновременно вовлекать их в работу. Также алгоритм учитывает «свежесть» поступающих обновлений, уменьшая влияние устаревших данных на итоговую модель.

👾 Новый инструмент позволяет за секунды рассчитать энергозатраты нейросетей

Исследователи из MIT также разработали новый метод, позволяющий быстро и точно оценивать энергопотребление задач искусственного интеллекта без длительных вычислений и сложного моделирования. Разработка получила название EnergAIzer. Она предназначена для операторов дата-центров и разработчиков, которым необходимо заранее понимать, сколько электроэнергии потребуется для запуска конкретных ИИ-нагрузок на различных процессорах и ускорителях.

Традиционные методы оценки энергопотребления требуют либо длительного профилирования оборудования, либо сложных симуляций, что делает их непрактичными для быстрого принятия решений. Новый подход устраняет это ограничение: система способна предсказывать энергозатраты за секунды, используя аналитическую модель, основанную на структуре вычислительных операций внутри ИИ-задач. Это позволяет значительно ускорить процесс планирования и оптимизации инфраструктуры, особенно при выборе оборудования или настройке параметров работы систем.

Ключевая особенность EnergAIzer заключается в том, что она анализирует типичные шаблоны работы нейросетей и на их основе прогнозирует загрузку вычислительных ресурсов, включая использование памяти и процессорных блоков. Эти данные затем применяются для оценки энергопотребления с высокой точностью, сопоставимой с традиционными методами, но без необходимости затратного тестирования.

👾 Новые ИИ-модели усиливают риски кибератак и экономических сбоев

Появление новых мощных моделей искусственного интеллекта уже сегодня создаёт реальные риски для глобальной экономики и кибербезопасности, и эти угрозы нельзя больше считать гипотетическими. Эксперты отмечают, что современные ИИ-системы способны автоматически находить уязвимости в операционных системах, программном обеспечении и веб-инфраструктуре, что даёт злоумышленникам инструменты для атак.

В частности, речь идёт о технологиях, аналогичных новейшим моделям, которые могут анализировать код и выявлять слабые места быстрее и эффективнее человека. Это приводит к ситуации, когда преимущества начинают смещаться в сторону атакующих, поскольку защита по-прежнему требует участия людей, организационных процессов и времени.

По мнению аналитиков, мир вступает в фазу, когда искусственный интеллект становится фактором системного риска для глобальной экономической стабильности. Уже сейчас существует вероятность так называемого «взаимно гарантированного экономического ущерба», при котором страны способны наносить друг другу серьёзный вред через цифровую инфраструктуру, используя ИИ-инструменты. В отличие от традиционных угроз, такие атаки могут быть масштабными, быстрыми и трудноотслеживаемыми, что делает их особенно опасными для финансовых систем, цепочек поставок и критической инфраструктуры.

👾 Контроль над ИИ становится вопросом национальной безопасности Великобритании

Власти Великобритании намерены усилить контроль над ключевыми элементами инфраструктуры искусственного интеллекта, стремясь снизить зависимость от зарубежных технологий и укрепить собственные позиции в глобальной технологической конкуренции. Новая стратегия предполагает более активное развитие национальных возможностей в области вычислительных мощностей, разработки чипов, научных исследований и подготовки специалистов.

По словам представителей правительства, искусственный интеллект уже становится важнейшим фактором экономической силы, безопасности и геополитического влияния, поэтому контроль над его базовыми компонентами рассматривается как вопрос стратегического значения.

Основное беспокойство властей связано с высокой концентрацией ресурсов в руках ограниченного числа международных корпораций, контролирующих значительную часть мировых вычислительных мощностей и передовых технологий. Такая зависимость создаёт уязвимости, поскольку решения, принимаемые внешними игроками, могут напрямую влиять на развитие экономики, цифровой инфраструктуры и национальной безопасности страны. В ответ на это Великобритания планирует укреплять внутреннюю экосистему ИИ, инвестируя в собственные разработки и поддерживая локальные компании и научные центры.

В рамках инициативы рассматривается создание национальной стратегии по развитию аппаратной базы ИИ, включая расширение доступа к полупроводникам и другим критически важным технологиям. Одновременно правительство намерено сосредоточиться на тех направлениях, где страна уже обладает конкурентными преимуществами, и развивать их для усиления своего влияния на глобальном рынке. При этом подчёркивается, что речь не идёт о технологической изоляции: Великобритания планирует продолжать сотрудничество с международными партнёрами, в том числе в области разработки стандартов и правил использования ИИ.