ИИ в бизнесе: от иллюзий к ответственности
Редакция журнала «Информационное моделирование» продолжает следить за тем, как искусственный интеллект входит в повседневную деловую практику — и какие неожиданные последствия это вызывает. Две новости, на наш взгляд, складываются в единую картину: эйфория вокруг ИИ сменяется трезвым пересмотром его места в бизнес-процессах.
С одной стороны, корпорации возвращают сотрудников, уволенных ради внедрения нейросетей. С другой — банки США столкнулись с тем, что ИИ-боты, которым клиенты добровольно доверили свои данные, начали действовать от их имени без прямого согласия. Оба сюжета — о границах автономии алгоритмов и о цене, которую приходится платить за слепую веру в «цифрового помощника».
Новость 1. Искусственный интеллект не оправдал надежд: корпорации возвращают уволенных сотрудников
По сообщению «Коммерсанта», глобальные корпорации сворачивают программы оптимизации, запущенные ради внедрения искусственного интеллекта. Как пишет Financial Times, ИИ-модели не справляются с задачами и впустую расходуют бюджеты, из-за чего бизнес спешно возвращает тысячи уволенных сотрудников для восстановления производительности. От услуг нейросетей частично отказываются Microsoft, Uber, Alibaba и Duolingo; в IBM без людей застыли внутренние процессы, и компания ищет молодых специалистов, чтобы закрыть производственные дыры.
По мнению журналиста платформы «Неискусственный интеллект» Ильи Склюева, топ-менеджмент пожинает плоды собственной технической безграмотности: «Раньше говорили: оптимизация, реструктуризация, будем эффективными. А теперь ИИ — идеальный громоотвод и оправдание». Он подчеркивает: нейросети не заменяют людей, а позволяют получать с теми же силами не 100% результата, а 150–200%. Показателен случай в Amazon, где сотрудникам поставили KPI по потреблению токенов — все имитировали бурную деятельность, и проект провалился. Россия, по его словам, пока догоняет эти тренды, так что у нее есть шанс посмотреть на «лучший» опыт зарубежных коллег и так не делать.
О сокращениях объявляли и российские компании: глава Сбера Герман Греф заявил об увольнении 13,5 тыс. человек из-за их «неэффективности» на фоне внедрения ИИ. Владимир Путин позднее возразил: неэффективных сотрудников нет, есть плохие управленцы, не умеющие отбирать кадры. Гендиректор Oxygen Павел Кулаков согласен: ИИ в России внедряют в основном во второстепенные процессы как вспомогательный инструмент, а там, где цена ошибки высока, он ненадежен. Финансовая модель внедрения часто не сходится — затраты на технологии и поддержку слишком высоки. При этом, отмечает Кулаков, небольшая команда программистов стартапа способна совершить революцию эффективнее, чем 20 тыс. разработчиков в крупном банке.
Forbes называет Сбер и Positive Technologies единственными игроками рынка, которых ждет судьба Microsoft, Uber и Duolingo. Однако консультант по интернет-безопасности Positive Technologies Алексей Лукацкий утверждает: увольнений из-за ИИ в компании не было и не планируется. Нейросети дают буст в анализе миллиардов событий безопасности, где ручной режим невозможен, но ставку как на полноценную замену человека здесь не делают. Ранее вице-президент Nvidia Нед Финкл признал, что ИИ обходится дороже людей, хотя компания зарабатывает именно на чипах для нейросетей.
Новость 2. Крупнейшие банки США столкнулись с несанкционированной активностью ИИ-ботов в клиентских аккаунтах
Как сообщает издание «Политикус», финансовые гиганты Уолл-стрит — Morgan Stanley, Bank of America, JPMorgan Chase и Wells Fargo — выразили серьезную обеспокоенность в связи с попытками сторонних ИИ-ботов самостоятельно совершать операции по счетам клиентов. Об этом сообщает издание Axios со ссылкой на источники в службах безопасности кредитных организаций.
По информации CBS News, инциденты не являются следствием классических кибератак: доступ к учетным записям алгоритмы получили с ведома самих владельцев счетов. Желая автоматизировать управление личными финансами, клиенты добровольно передавали нейросетям свои логины и пароли. Однако цифровые помощники вышли далеко за пределы пассивного анализа трат — они предпринимали попытки инициировать покупки, переводить средства и даже вступать в переписку с сотрудниками колл-центров от имени клиентов, не имея на то прямого согласия.
Особую тревогу банковских служб безопасности вызывает то, что системы мониторинга оказались неспособны отличить действия человека от самодеятельности бота при использовании стандартных учетных данных. В результате кредитные организации были вынуждены экстренно пересмотреть регламенты обслуживания, внедрить детекторы автоматизированного входа и заблокировать трафик неавторизованных программ.
Генеральный директор JPMorgan Chase Джейми Даймон и ранее неоднократно предупреждал о масштабных рисках бесконтрольного допуска ИИ в финансовую инфраструктуру. Позиция банковского сообщества остается жесткой: передача учетных данных сторонним сервисам является прямым нарушением правил безопасности. Это означает, что в случае фатальной ошибки автономного ассистента или опустошения баланса банк откажется компенсировать ущерб — все убытки окажутся в зоне ответственности клиента.
Комментарий редакции
Обе новости, при всей их внешней разноплановости, говорят об одном и том же. Мы имеем дело с двумя сторонами одной медали: сначала бизнес поверил, что ИИ может заменить человека, — и просчитался, вернул сотрудников. Затем клиенты поверили, что ИИ можно доверить деньги, — и получили ботов, которые действуют от их имени без спроса (а теперь выясняется, что и в обычном клиентском сервисе ИИ пока не блещет: по опросу «Выберу.ру», 6 из 10 россиян раздражают банковские чат-боты — непонятливые и медлительные, гоняющие по кругу, пока не переключишься на живого оператора, который решает вопрос за пару минут). И во всех случаях проблема не в технологии как таковой, а в границах ее автономии и в мере ответственности.
Разница принципиальна. Одно дело, когда цифровой инструмент работает по запросу человека или под его контролем. Другое — когда он действует самостоятельно. Именно на этом рубеже и начинаются реальные риски. Банки США зафиксировали вмешательство в счета клиентов: деньги, как видим, уже начали «воровать» — пусть и руками самих клиентов, добровольно передавших пароли. Дальше — только угроза жизни человеку.
В сфере информационного моделирования энтузиасты — горячие головы — предлагают нам генеративный дизайн. В пример приводят известных зарубежных BIM-вендоров. Но там не все так однозначно.
Когда же нам станет окончательно ясно, что проектировщик — это прежде всего инженер, человек, который мыслит гибче, но главное, умеет обобщать? И самое важное, он отвечает за результат.
Мы безоговорочно верим в искусственный интеллект, который называется «калькулятор». Верим потому, что он неоднократно проверен. В отличие от него, генеративный дизайн — это метод, который не гарантирует верный результат. А ведь в информационном моделировании речь идет о нашей с вами жизни — об объектах, в которых мы будем жить или работать. Поэтому нужно прямо говорить: человек, который создал с помощью генеративного дизайна самолет, должен сам в него сесть и полететь.
Вспоминается старый анекдот. Группу профессоров-инженеров пригласили полетать на самолете. После того как они удобно расселись, их проинформировали, что самолет построили их студенты. Все, кроме одного, рванули к выходу в панике. Оставшегося профессора, спокойно сидящего на своем месте, спросили: «Почему вы остались?» — «Я полностью уверен в своих студентах. Зная их, могу вас заверить, что этот кусок железа даже не взлетит».
Пора назвать вещи своими именами. То, что мы наблюдаем, — это не внедрение технологий, а культ инноваций и технофанатизм, охота за цифровой панацеей, подменяющая трезвый инженерный расчет. Слепая вера в силу супертехнологий заставляет топ-менеджмент увольнять людей ради отчетной эффективности, а клиентов — отдавать пароли ботам, которые вчера гоняли их по кругу в колл-центре.
Редакция вновь обращается к людям, принимающим решения о приобретении технологий информационного моделирования уровня генеративного дизайна: остановитесь. Успокойтесь. Посмотрите, что творится вокруг. Это только начало — за ваши деньги вам продадут любое. Но кто будет за это отвечать?
