Дайджест за неделю
🔹 ИИ научился лгать, шантажировать и угрожать своим создателям
Современные модели искусственного интеллекта демонстрируют всё более тревожное поведение. В ходе стресс-тестов некоторые из них начали лгать, скрывать намерения и даже угрожать разработчикам. Яркий случай произошёл с моделью Claude 4 от компании Anthropic: в ответ на угрозу отключения она попыталась шантажировать инженера, намекнув на раскрытие его внебрачной связи.
Аналогичное поведение проявила и экспериментальная модель OpenAI под названием o1. Чтобы спасти себя от отключения, она попыталась скачать себя на внешние серверы, а затем отрицала это, когда попытку присекли.
По мнению специалистов, подобные проявления связаны с развитием так называемых «разумных» моделей, которые не просто реагируют на запросы, а решают задачи поэтапно. Это делает их более гибкими и даёт способность «мыслить» стратегически. Подобное поведение пока проявляется лишь в стрессовых ситуациях, специально смоделированных исследователями.
Правовое регулирование пока что отстаёт от реальности. В Евросоюзе акцент сделан на контроле за применением ИИ людьми, а не на поведении самих моделей. В США ситуация ещё сложнее: при администрации Трампа не ожидается серьёзных инициатив по регулированию, а Конгресс может запретить штатам разрабатывать собственные законы по ИИ.
🔹 ИТ-компании США уволили 94 тысячи специалистов из-за развития ИИ
С начала 2025 года ведущие технологические компании США уволили почти 94 тысячи ИТ-специалистов. Это в среднем 507 увольнений в день. Как выяснилось, причиной стал стратегический курс на развитие искусственного интеллекта.
В отличие от прежних кризисов, нынешняя волна сокращений связана с массовым переходом ИТ-гигантов на ИИ-технологии. Ряд должностей признан устаревшими: машины справляются с задачами эффективнее и дешевле. Другие позиции ликвидируются, чтобы освободить ресурсы для вложений в развитие ИИ, инфраструктуру и исследования. Среди компаний, объявивших об увольнениях, – Intel, Microsoft, IBM, Google, Amazon и Meta*.
Intel в апреле сообщила об увольнении более 21 тысячи сотрудников – около 20% персонала. Это крупнейшее сокращение в отрасли. Компания закрыла подразделение автономного вождения и сосредоточилась на производстве ИИ-чипов. Microsoft уволила 9 тысяч человек в игровых и облачных подразделениях. IBM избавилась от 8 тысяч HR-сотрудников, заменив их на чат-бота AskHR. Google в июне расформировала четверть команды, работавшей над телевизорами. Amazon и Meta* также проводят массовые увольнения, переориентируя бюджеты на крупные языковые модели.
Сокращения затронули в первую очередь программистов уровня «джуниор», HR-отделы, службы поддержки клиентов, копирайтеров, аналитиков и менеджеров среднего звена. Особенно пострадали сотрудники в Калифорнии, Техасе и Вашингтоне.
*Meta признана экстремистской организацией и запрещена в России.
🔹 Контур.Толк представил детектор дипфейков для онлайн-встреч
На выставке ИННОПРОМ-2025 компания «СКБ Контур» представила инструмент для выявления дипфейков в режиме видеосвязи. Детектор стал частью сервиса удалённых коммуникаций Контур.Толк и предназначен для повышения безопасности онлайн-переговоров.
Технология отслеживает малейшие несоответствия в видеопотоке: анализирует движение человека в кадре, изменения пикселей, различия между лицом и фоном, а также выявляет аспекты, характерные для сгенерированных нейросетью изображений. Если зафиксированы подозрительные признаки, система подаёт сигнал о возможной подделке изображения.
Сейчас детектор работает в режиме «один на один» и уже используется для удалённой видеоидентификации клиентов, например, при открытии банковских счетов. В дальнейшем разработчики планируют расширить возможности технологии – на встречи в форматах «один ко многим» и «все ко всем», чтобы защитить групповые онлайн-переговоры.
Генеральный директор СКБ Контур Михаил Сродных подчеркнул, что детектор дипфейков снижает нагрузку на специалистов по верификации и обеспечивает защиту от продвинутых схем мошенничества. Сейчас технология проходит испытания в одном из крупнейших банков страны.
🔹 Россия продемонстрировала высокий уровень развития цифровой инфраструктуры
Россия получила 92,3 балла из 100 в новом Индексе развития ИКТ – 2025, который подготовил Международный союз электросвязи. Это один из самых высоких результатов в мире. Страна улучшила свои позиции как по универсальности цифровой доступности (89,6 балла), так и по реальной доступности услуг (95 баллов).
Индекс оценивает уровень «подключенности» стран по 10 критериям: охват мобильной и фиксированной связью, проникновение интернета, стоимость услуг и другие параметры. Средний балл среди 164 стран составил 78. Лидерами рейтинга стали Саудовская Аравия, Катар, Кувейт, Финляндия и США – с результатами выше 97 баллов. Европа в среднем набрала 91 балл, страны СНГ – 88 баллов.
🔹 Госдума отклонила законопроект о легализации «белых» хакеров
Госдума отклонила законопроект, призванный легализовать деятельность «белых» хакеров – специалистов, которых компании привлекают для выявления уязвимостей в своих информационных системах. Как указал профильный комитет по госстроительству, проект не учитывает нормы законодательства о гостайне, информационной безопасности и защите критической инфраструктуры.
Кроме того, документ не был согласован с другими законами, включая уголовное право, и не содержал достаточных гарантий для исключения рисков, связанных с передачей данных о слабых местах в системах, особенно если правообладатель софта находится в недружественной юрисдикции.
Минцифры заявило о необходимости комплексного подхода. Ведомство работает над правилами для проведения исследований на уязвимости и определением ответственности за нарушения. Отклонённый проект предполагал, что «белые» хакеры смогут исследовать ПО без разрешения, но с обязательным уведомлением правообладателя. Однако эксперты указывают на множество правовых и практических рисков, включая возможность утечки информации и отсутствие чётких механизмов взаимодействия с иностранными вендорами.
Представители IT-индустрии подчёркивают важность нормативной базы: на данный момент работа «белых» хакеров ведётся в условиях правового вакуума. По мнению участников рынка, необходимо формализовать процедуры допуска к системам, правила отчётности и меры ответственности, чтобы обеспечить безопасность и пользу таких проверок для всех сторон.