Дайджест за неделю
🔹 Взломы при помощи ChatGPT
Исследователи смогли взломать более половины тестируемых веб-сайтов с помощью автономных ботов на базе GPT-4, используя ранее неизвестные уязвимости. Эти боты координировали свои действия и создавали новых ботов по мере необходимости.
Команда исследователей ранее уже использовала GPT-4 для автономного взлома известных уязвимостей и успешно эксплуатировала 87% критических уязвимостей. На прошлой неделе они сообщили о взломе уязвимостей нулевого дня с помощью команды автономных агентов на основе крупных языковых моделей (LLM) и метода иерархического планирования с агентами, выполняющими специфические задачи (HPTSA).
HPTSA использует «агента-планировщика», который контролирует процесс и запускает «субагентов» для выполнения конкретных задач. Этот метод показал эффективность на 550% выше, чем один агент LLM, и смог взломать 8 из 15 уязвимостей нулевого дня, в то время как индивидуальные LLM взломали только 3 из 15.
Существует опасение, что эти модели могут быть использованы злоумышленниками для атак на веб-сайты и сети. Один из исследователей отметил, что в режиме чат-бота GPT-4 не способен взломать что-либо самостоятельно. ChatGPT также заявил, что не может эксплуатировать уязвимости нулевого дня и предложил обратиться к специалисту по кибербезопасности.
🔹 Новый глава ICANN
Совет директоров ICANN назначил Курта Эрика Линдквиста новым президентом и генеральным директором корпорации. Линдквист вступит в должность 5 декабря, сменив Салли Костертон, которая временно исполняла обязанности главы ICANN с мая 2023 года после ухода Йорана Марбыка. Линдквист обладает 30-летним опытом работы в сфере интернет-провайдеров и операторов связи. Он занимал руководящие должности в Netnod и LINX, а также работал в ICANN и других крупных организациях. В Netnod он способствовал развитию интернета в Швеции, а в LINX курировал межсетевые соединения.
Новое руководство ICANN продолжит работать над обеспечением безопасности и стабильности интернета, улучшением инфраструктуры и поддержкой инноваций. Линдквист признан профессионалом высокого уровня, способным эффективно руководить ICANN в условиях постоянно меняющегося интернет-пространства. Его опыт и знания будут способствовать достижению стратегических целей организации и укреплению её позиций на глобальном уровне.
🔹 GPT на «Госуслугах»
Минцифры начало тестирование технологии GPT на портале «Госуслуги». Проект направлен на улучшение взаимодействия граждан с порталом посредством использования передовых технологий искусственного интеллекта. Ожидается, что результаты тестирования будут представлены в сентябре 2024 года.
Глава Минцифры Максут Шадаев сообщил об этом на Петербургском международном экономическом форуме (ПМЭФ). Он отметил, что в тестировании участвуют разработки ведущих российских компаний, таких как «Яндекс» и «Сбер». На текущем этапе тестирование проводится в закрытом режиме, и его результаты будут тщательно анализироваться для выбора наиболее эффективного решения.
Разработчики ожидают, что использование GPT приведёт к значительному улучшению пользовательского опыта на портале, сделав взаимодействие с государственными услугами более простым и эффективным.
Ожидается, что успешное внедрение GPT на «Госуслугах» станет важным шагом в развитии цифрового общества в России и позволит улучшить качество взаимодействия граждан с государственными учреждениями.
🔹 Правительство Нью-Йорка защищает молодёжь в соцсетях
Законодатели штата Нью-Йорк приняли закон, направленный на защиту молодёжи в социальных сетях. Новый закон запрещает социальным платформам показывать «вызывающий привыкание» контент пользователям младше 18 лет без согласия родителей. Это решение принято на фоне растущей озабоченности по поводу вредного воздействия социальных сетей на подростков.
Законопроект предусматривает, что платформы должны получить согласие родителей или опекунов, прежде чем использовать алгоритмы, которые могут вызывать зависимость у молодых пользователей. Целью является ограничение доступа детей к контенту, который может негативно повлиять на их психическое здоровье и благополучие.
Многие штаты в США уже приняли или рассматривают подобные меры для защиты молодёжи. Например, ранее в этом году Калифорния и Юта также приняли законы, требующие от социальных сетей дополнительных мер по защите подростков.
🔹 Робособак будут использовать для рейдов нарколабораторий
Полиция Нидерландов начала использовать роботов-собак Spot, разработанных компанией Boston Dynamics, для проведения рейдов в нарколабораториях. Эти роботы могут работать автономно, снижая риски для полицейских, которые сталкиваются с опасными химикатами и возможными взрывами при проверке объектов.
Робот Spot оснащён различными сенсорами и камерами, что позволяет ему передавать детальные данные о состоянии помещений в реальном времени. Это особенно важно при проверке лабораторий, где производят синтетические наркотики, так как такие объекты часто наполнены токсичными веществами и могут представлять угрозу для здоровья и жизни сотрудников полиции.
Ранее полиция использовала дистанционно управляемые версии Spot, которые требовали постоянного контроля со стороны оператора. Новые модели работают полностью автономно, что является значительным технологическим прогрессом. Они могут самостоятельно передвигаться по заданной территории, обходить препятствия и выполнять команды, поступающие от операторов.
Нидерланды стали одной из первых стран, активно использующих такие передовые технологии в борьбе с наркопреступностью. Введение роботов Spot в полицейскую практику является частью широкой стратегии по модернизации правоохранительных органов и повышению их эффективности в борьбе с преступностью.
🔹 На конкурсе ИИ-изображений победило реальное фото
На недавно завершившемся конкурсе ИИ-фотографии 1839 Color Photography Awards победило реальное фото. Победителем стала работа под названием F L A M I N G O N E, созданная писателем и фотографом Майлзом Астраем. На снимке изображён фламинго без головы на фоне дикой природы. Фото было высоко оценено жюри и завоевало приз зрительских симпатий.
Майлз объясняет своё участие в конкурсе попыткой доказать превосходство природы и реального творчества над «машинным» искусством. Он отмечает ироничным тот факт, что реальная фотография ввела в заблуждение жюри, в то время как работы искусственного интеллекта побеждают в традиционных конкурсах.
🔹 Арест за ИИ-шпаргалку
Турецкий студент был арестован и заключён в тюрьму после того, как его уличили в использовании ИИ на экзамене. Студент замаскировал камеру под пуговицу рубашки и спрятал маршрутизатор в обуви, чтобы подключиться к интернету и получать ответы.
На видео, опубликованном полицией, можно увидеть, как студент использовал камеру, скрытую под пуговицей рубашки, чтобы считывать вопросы с листа. С помощью маршрутизатора, спрятанного в обуви, устройство подключалось к интернету, где программное обеспечение на базе ИИ генерировало ответы. Эти ответы передавались студенту через наушник.
Студент и его сообщник будут подвергнуты судебному разбирательству по обвинению в мошенничестве и нарушении правил проведения экзаменов.