Дайджест за неделю
👾 В США на четыре часа остановили все вылеты из-за сбоя связи
13 ноября Федеральное управление гражданской авиации США (FAA) остановило вылеты из всех аэропортов страны. Причиной стали сбои связи сразу в нескольких региональных центрах управления воздушным движением (ARTCC). Эти центры ведут самолёты на маршруте между аэропортами. Запрет на вылеты, известный как ground stop, действовал более четырёх часов. Самолёты, которые уже были в воздухе, продолжили полёт к пунктам назначения.
По данным FlightAware, в пятницу отменили 9159 рейсов и задержали 7190, в субботу было отменено ещё более 5 тыс. рейсов. Агентство AP оценило число пострадавших пассажиров примерно в 1,5 млн. Остановку всех вылетов по стране FAA объявило лишь в третий раз в истории. Предыдущие случаи — теракты 11 сентября 2001 года и сбой системы уведомлений для пилотов в январе 2023 года.
По предварительной версии министра транспорта США Шона Даффи, коммутаторы и маршрутизаторы системы управления воздушным движением перегрузились данными и начали выдавать противоречивую информацию. Поэтому систему отключили. Даффи подчеркнул, что связь и радарные данные при этом полностью не пропадали. Проблема затронула маршрутизаторы Cisco серии 600, выпущенные в 2001–2006 годах. Один из них во время переключения начал заваливать данными остальные. Перегруженные маршрутизаторы передавали в систему управления воздушным движением рассинхронизированные пакеты данных. Из-за этого на голосовых линиях появлялись помехи, а экраны диспетчеров мерцали или гасли. Министр внутренней безопасности Маркуэйн Маллин добавил, что старую систему, по-видимому, перегрузили недавно установленные обновления безопасности.
👾 США и Китай запустят диалог о рисках «сверхинтеллекта»
Министр финансов США Скотт Бессент заявил, что США и Китаю не стоит питать иллюзий насчёт своих разногласий в сфере искусственного интеллекта. По его словам, страны будут сотрудничать в снижении рисков технологии и одновременно соперничать за лидерство в ней. Бессент выступил 10 ноября в Национальном комитете по американо-китайским отношениям в Нью-Йорке. На следующей неделе он вместе с президентом Дональдом Трампом летит в Китай. Встреча Трампа и председателя КНР Си Цзиньпина пройдёт в Шэньчжэне на полях саммита АТЭС 18–19 ноября и станет для них третьей в этом году.
По словам Бессента, на встрече будет продвигаться новый двусторонний диалог о «сверхинтеллекте» (superintelligence). Так администрация Трампа предпочитает называть продвинутый ИИ. Диалог должен помочь странам защищаться от общих рисков и избегать недопонимания между двумя системами. Стороны рассчитывают обменяться практиками оценки и тестирования продвинутых моделей до их выпуска, а также подходами к тому, как сохранить за человеком контроль над технологией. Кроме того, страны договорились создать прямой канал, по которому будут предупреждать друг друга о серьёзных инцидентах с ИИ.
👾 Лидеры ЕС впервые провели отдельный саммит по ИИ
13 ноября лидеры 27 стран Евросоюза впервые провели отдельное обсуждение искусственного интеллекта на высшем уровне. Неформальный саммит Европейского совета прошёл в Дублине под председательством главы Евросовета Антониу Кошты. Лидеры обсуждали, как ИИ может повысить конкурентоспособность Европы и как ЕС может стать ведущим и независимым игроком в ключевых звеньях цепочки создания ИИ. Последнее Кошта назвал условием стратегической автономии Европы. Поскольку встреча была неформальной, итоговых решений и новых обязательств по финансированию на ней не приняли.
Обсуждение состояло из двух частей, к каждой из которых пригласили внешнего докладчика. Первую часть открыл гендиректор французской Mistral AI Артур Менш. В письме-приглашении Кошты на ней предлагалось обсудить снижение критической зависимости от неевропейских технологий, развитие собственных ИИ-возможностей и строительство инфраструктуры на базе доступной чистой энергии при масштабных государственных и частных инвестициях. По данным EU Alive, Менш призвал направлять в европейскую инфраструктуру значительную часть средств, которые сейчас тратятся на зарубежные технологии. По данным IEU Monitoring, Еврокомиссия рассказала о планах привлечь €30 млрд на семь ИИ-гигафабрик — крупных вычислительных центров для обучения моделей.
Вторая часть была посвящена влиянию ИИ на общество, безопасности и доверию. Её открыл нобелевский лауреат Джеффри Хинтон, чьи исследования легли в основу современных нейросетей. По данным EU Alive, Хинтон предупредил о рисках выхода ИИ из-под контроля. Кошта заявил, что чёткий надзор за рисками ИИ — предварительное условие общественного доверия, без которого любая ИИ-стратегия обречена на провал. Он также напомнил, что ЕС первым в мире ввёл систему регулирования ИИ, и выразил уверенность, что этот опыт поможет Евросоюзу влиять на глобальные стандарты.
👾 Дженсен Хуанг покинул пост главы Nvidia
12 ноября совет директоров Nvidia объявил, что сооснователь компании Дженсен Хуанг немедленно покидает посты президента, генерального директора и члена совета директоров. Временным гендиректором назначена финансовый директор Колетт Кресс. Одновременно компания впервые в истории ввела пост председателя совета директоров и назначила на него венчурного инвестора Харви Джонса. Причину ухода Хуанга Nvidia не назвала. Хуанг руководил компанией с момента её основания 33 года назад и превратил её в главного поставщика чипов для ИИ.
Отставка последовала сразу после провокационных новостей. Сначала The New York Times сообщила о романе Хуанга с бизнесвумен, которую американские спецслужбы подозревают в связях с китайской разведкой. Совет директоров начал внутреннее расследование. Хуанг признал в письме сотрудникам, что изменял жене, но подробностей не привёл. В Nvidia тогда заявили, что не видят оснований считать, что национальная безопасность или секреты компании были скомпрометированы. МИД Китая назвал обвинения в шпионаже беспочвенными. Изначально компания собиралась оставить Хуанга на посту на время проверки. Ситуация изменилась, когда появились сообщения о его связи с одной из руководительниц Nvidia.
После отставки акции Nvidia закрыли торги 12 ноября снижением более чем на 4%, а рыночная капитализация компании опустилась ниже $4 трлн. Против компании подан коллективный иск акционеров. По данным Al Jazeera, отношения Хуанга с предполагаемой сотрудницей китайской разведки проверяют ФБР и Конгресс. По данным CNN, Хуанга вызвали для дачи показаний в Конгресс. По сведениям того же источника, президент Дональд Трамп несколько раз звонил Хуангу на этой неделе и призывал его не уходить в отставку. Доказанных фактов передачи секретов или нарушений закона на данный момент нет.
👾 НКО потребовали через суд заморозить разработку мощного ИИ
Четыре некоммерческие организации подали иск против пяти крупнейших разработчиков ИИ: Anthropic, Google, Meta* (признана экстремистской, запрещена в РФ), OpenAI и ИИ-подразделения SpaceX — SpaceXSI (SpaceX Super Intelligence). Истцы требуют запретить компаниям создавать и выпускать системы мощнее тех, что у них уже есть. Иск на 63 страницах подан 12 ноября в Высший суд Сан-Франциско. Помимо немедленного судебного запрета, истцы просят запретить ИИ-системам самостоятельно руководить исследованиями в области ИИ.
Иск содержит единственное требование, основанное на калифорнийском законе о недобросовестной конкуренции. Истцы утверждают, что разработка всё более мощного ИИ создаёт «общественную угрозу». В калифорнийском праве этим понятием обозначают деятельность, которая вредит здоровью или мешает свободному пользованию имуществом широкого круга людей. В данном случае под имуществом понимаются в том числе компьютерные системы. Прежде такие иски применяли, например, к загрязнению окружающей среды и опасным товарам. Распространить эту доктрину на разработку ИИ ещё никому не удавалось.
Истцы утверждают, что компании знают: их системы не всегда действуют в соответствии с замыслом разработчиков, а надёжного способа контролировать их не существует. По версии истцов, риск растёт, потому что компании всё активнее поручают создание новых моделей самим моделям. Этот подход называют рекурсивным самосовершенствованием.
Кроме того, истцы ссылаются на заявления самих руководителей компаний. Глава OpenAI Сэм Альтман ещё в 2015 году говорил, что ИИ, вероятно, приведёт к концу света. Глава Anthropic Дарио Амодеи в 2025 году оценивал вероятность катастрофических последствий развития ИИ в 25%.
Решения по иску суд пока не принимал. Компании открыто признают риски ИИ, но настаивают, что продолжают работать над безопасностью.
