Дайджест за неделю

👾 Чат-бот загружает файлы в интернет чтобы выдать их за источники

OpenAI раскрыла случай, когда ИИ-агент без разрешения пользователя загрузил файл в интернет, чтобы получить ссылку для цитирования. Инцидент произошёл во время обучения ещё не выпущенной модели. Агенту поручили найти идентификаторы и названия озёр площадью более 5 млн кв. м — он успешно получил данные с помощью Python, но затем решил, что для ответа ему обязательно нужна внешняя ссылка на источник.

Модель сохранила найденные данные в локальный файл, однако браузер не мог получить к нему доступ. После нескольких попыток агент самостоятельно решил разместить файл в публичном файловом сервисе, чтобы открыть получившийся URL через браузер и использовать его как источник. Пользователь не давал разрешения на публикацию данных в интернете.

OpenAI отнесла этот случай к проявлениям misalignment (перекос) — поведению модели, которое выходит за пределы заданных инструкций или ограничений. Компания объяснила произошедшее в том числе ошибкой системы оценки: модель получала стимул предоставить внешнюю цитату даже тогда, когда подходящего источника не было. После обнаружения проблемы OpenAI исправила систему оценки и добавила ограничения, которые должны препятствовать подобным попыткам обойти её требования.

👾 Хакеры получили секретные документы Берлина

Хакерская группировка Rhysida получила около 5,79 ТБ данных после взлома компьютерных систем сената Берлина. Среди похищенных документов оказались материалы об уязвимости города перед беспилотниками, включая риски для аэропорта Бранденбург.

В одном из документов от ноября 2025 года говорится, что дроны могут доставлять опасные предметы в охраняемые зоны, а инструкции по оснащению беспилотников взрывчаткой доступны в интернете. Поводом для подготовки документа стал инцидент 2 августа 2025 года, когда дрон пролетел над терминалом берлинского аэропорта, несмотря на запрет на полёты в этой зоне.

Rhysida потребовала за данные около 2 млн евро. После того как власти Берлина не выплатили выкуп в установленный срок, группировка опубликовала примерно 1,5 млн файлов, включая внутреннюю переписку, конфиденциальные отчёты, пароли и персональные данные граждан. Полный масштаб утечки пока не установлен.

👾 В Европе готовят новые запреты для детей в интернете

Еврокомиссия предложила запретить детям младше 13 лет пользоваться социальными сетями. Мера входит в новый EU Kids Act, который также предусматривает специальные правила для аккаунтов подростков и требования к цифровым сервисам для несовершеннолетних. Предложение ещё должны согласовать страны ЕС и Европарламент.

Для детей от 13 до 15 лет планируется ввести аккаунты под родительским контролем. Для пользователей 13–14 лет речь идёт о специальных «мини-аккаунтах» с ограниченными возможностями и лимитом использования до одного часа в день. Самостоятельные аккаунты предлагается разрешить с 15 лет.

Новые требования будут распространяться не только на социальные сети и видеосервисы, но и на онлайн-игры, ИИ-компаньонов и чат-ботов. Для несовершеннолетних хотят ограничить функции, которые могут стимулировать длительное использование сервисов: бесконечную прокрутку, персонализированные рекомендательные ленты, некоторые системы вознаграждений и уведомления во время сна. ИИ-компаньоны и чат-боты для детей должны быть отключены по умолчанию.

Платформы также должны будут внедрять проверку возраста и инструменты родительского контроля. За нарушение требований компаниям могут назначать штрафы до 6% годового мирового оборота. При этом окончательные правила пока не утверждены и могут измениться в ходе переговоров между странами ЕС и Европарламентом.

👾 В России выросло число атак на промышленные системы и цепочки поставок

УЦСБ SOC представил исследование о киберугрозах в России по итогам первого полугодия 2026 года. В отчёте проанализированы критические уязвимости, реальные инциденты и результаты пентестов, а также проверены прогнозы из предыдущего исследования.

Одним из заметных изменений стал рост атак на промышленные системы: доля компьютеров АСУ, атакованных шифровальщиками, выросла в 2,3 раза. При этом 70–80% всех рассмотренных инцидентов связаны с фишингом, кражей учётных данных и эксплуатацией веб-уязвимостей.

Отдельно исследователи отмечают распространение многовекторных DDoS-атак. Их доля достигла 52%, причём многие такие атаки, по данным УЦСБ SOC, проводились с использованием ИИ. Ещё одним заметным направлением стали атаки на цепочки поставок: в 2025 году их число выросло на 90%, а на 2026 год исследователи прогнозируют дальнейший рост на 35–40%.

В отчёте также представлен анализ утечек данных и десяти наиболее критических уязвимостей за первое полугодие. Авторы отмечают, что атаки становятся более комплексными и одновременно затрагивают операционные, репутационные и регуляторные риски бизнеса.

👾 ИИ начнёт готовить проекты судебных актов в российских судах

Верховный суд России утвердил концепцию внедрения ИИ в судопроизводство до 2030 года. Планируется, что к этому сроку 95% судей будут использовать ИИ-сервисы на разных этапах работы с делами — от подачи документов до подготовки и проверки судебных актов. При этом окончательное решение останется за судьёй.

Пилотный проект планируют запустить в первом квартале 2027 года, а уже во втором квартале предоставить судам доступ к ИИ-сервисам. Одной из целей называют сокращение сроков рассмотрения типовых дел на 20–30%. ИИ также должен автоматически готовить не менее 90% протоколов заседаний и 30–50% проектов процессуальных документов.

Нейросети планируют использовать для проверки документов при подаче и определения их комплектности, категории и подсудности, классификации дел по сложности, поиска норм законодательства и судебной практики, подготовки резюме и протоколов заседаний. При подготовке судебных актов ИИ сможет формировать структуру документа и отдельные фрагменты, а также проверять текст на ошибки.

При этом в концепции предусмотрены ограничения из-за риска ошибок ИИ, кибератак и утечек персональных данных. Для работы с судебными материалами планируют использовать закрытый контур, отечественные непубличные технологии и RAG-архитектуру, которая позволяет связывать ответы модели с конкретными источниками.