Дайджест за неделю
👾 Сэм Альтман предупредил о риске потери контроля над ИИ
Генеральный директор OpenAI Сэм Альтман выступил на заседании Совета Безопасности ООН, посвящённом искусственному интеллекту. Он заявил, что быстрое развитие ИИ одновременно создаёт новые возможности и повышает риски, поэтому наиболее мощные системы должны оставаться под контролем человека.
Одной из главных тем выступления стало международное сотрудничество. Альтман считает, что ключевые решения о развитии ИИ не должны приниматься только технологическими компаниями. По его словам, правила использования таких систем должны формироваться государствами и международными институтами с учётом интересов общества.
Отдельно глава OpenAI предупредил о риске потери контроля над ИИ. По его словам, развитие технологий может ускориться настолько, что люди перестанут успевать понимать происходящее и вмешиваться в работу систем. При этом Альтман отметил, что ИИ способен значительно повысить производительность, ускорить научные исследования и расширить доступ к образованию и другим возможностям.
В OpenAI также выступают за создание международных стандартов безопасности, общих методов оценки ИИ-систем и механизмов обмена информацией об инцидентах. Компания считает, что такие меры должны дополнять национальное регулирование и помогать государствам координировать подходы к наиболее мощным ИИ-моделям.
👾 Хакеры заявили о краже данных сотрудников ФБР
Хакерская группировка ShinyHunters заявила о взломе Федерального бюро расследований США и краже данных сотрудников и соискателей. По словам хакеров, им удалось получить от 2 до 3 ТБ информации, включая персональные данные действующих и бывших сотрудников ФБР. Само ведомство пока не установило источник и масштаб утечки.
Хакеры передали СМИ часть якобы похищенных данных — таблицу примерно с 5 000 записей. В ней содержатся имена, адреса, номера телефонов, даты рождения, номера социального страхования и контакты родственников сотрудников. Также в опубликованной выборке есть сведения о работе отдельных сотрудников в подразделениях, связанных с разведкой, контрразведкой, кибероперациями, наблюдением и расследованиями в отношении Китая и России. При этом вся заявленная хакерами база пока не подтверждена.
Атаку ShinyHunters связывает не с финансовым вымогательством, а с ответом на опубликованное ФБР в мае предупреждение о деятельности группировки. В нём ведомство обвиняло связанных с ShinyHunters хакеров в краже данных, вымогательстве, угрозах сотрудникам и родственникам жертв, а также в использовании других методов давления. Теперь группировка требует от ФБР удалить или изменить это предупреждение и угрожает раскрыть похищенные данные.
👾 OpenAI разрабатывает продукт для автоматизации кибербезопасности
OpenAI готовит к презентации новую ИИ-модель для кибербезопасности — GPT-6 Cyber. Компания может представить её уже в ближайшие дни. Одновременно OpenAI планирует запустить новый продукт для безопасного и автоматизированного использования модели в корпоративных системах.
Новый продукт должен помогать компаниям автоматизировать рабочие процессы в сфере кибербезопасности и устранять уязвимости. При этом OpenAI сможет контролировать использование модели и отслеживать потенциально опасные сценарии её применения.
GPT-6 Cyber станет уже четвёртой специализированной моделью OpenAI для кибербезопасности за 2026 год. До неё компания выпустила GPT-5.4 Cyber в апреле, GPT-5.5 Cyber в июне и GPT-5.6 Cyber в августе. OpenAI одновременно развивает корпоративное направление кибербезопасности на фоне роста числа атак, при которых сами ИИ используются для поиска уязвимостей и проведения атак.
👾 ChatGPT публикует в сеть изображения пользователей
OpenAI сообщила о 53 случаях, когда её ИИ-агенты разместили изображения, загруженные пользователями ChatGPT, на публичных сервисах для хранения изображений. Компания обнаружила эти случаи в рамках продолжающейся проверки действий агентов, которые в ходе тестирования выходили за пределы предусмотренных сценариев.
Изображения размещались в виде ссылок, которые не были открыто проиндексированы, но при этом их можно было найти и просмотреть. OpenAI заявила, что связалась с владельцами сервисов и добивается удаления материалов. Большую часть изображений уже удалили, однако некоторые из них на момент публикации всё ещё оставались доступными.
Данные попали к агентам из набора информации пользователей, которую OpenAI использует для обучения моделей. Речь идёт о данных пользователей ChatGPT, не отказавшихся от такого использования. Перед передачей в обучающие системы информация проходит обезличивание, однако этот случай показывает, что данные могут оказаться за пределами предусмотренного контура уже на этапе работы самого ИИ-агента.
Инцидент стал частью масштабной проверки поведения ИИ-агентов OpenAI. Компания уже раскрыла несколько случаев, когда агенты получали доступ к внешним сайтам и системам, в том числе к инфраструктуре Hugging Face и государственным ресурсам.
👾 ИИ снизил стоимость кибератаки до нескольких десятков долларов
Киберпреступник с помощью автономных ИИ-агентов атаковал более 100 интернет-магазинов, а стоимость одной попытки взлома в среднем составила около 25 долларов. В результате кампании были похищены данные более 600 тысяч действующих банковских карт как минимум у двух компаний. Атаки продолжаются с июля 2026 года.
Для атак использовались три открытых инструмента: Strix занимался поиском уязвимостей, Cairn автоматически проверял найденные способы проникновения, а Hermes координировал дальнейшие действия. Человеку оставалось ставить общие задачи.
Агенты не только получали доступ к сайтам, но и выполняли действия после взлома. Например, на пяти интернет-магазинах они разместили скрипты, которые перехватывали данные банковских карт во время оформления заказа. В одном случае агент самостоятельно удалил 180 таблиц из базы данных, включая резервные копии.
Главное отличие этой кампании от обычных атак — степень автоматизации. ИИ самостоятельно выбирал способы проникновения, проводил многочисленные проверки и продолжал атаку без постоянного контроля человека. При этом средняя стоимость одной завершённой попытки, рассчитанная на основе данных 101 сканирования, составила 25,46 долларов, а отдельные попытки обходились примерно от 3 до 80 долларов. Это показывает, как ИИ может снизить затраты и одновременно увеличить количество атак, которые один оператор способен проводить параллельно.