ChatGPT: цифровой помощник или соперник?
ChatGPT — это чат-бот на базе открытого искусственного интеллекта, который был разработан компанией Илона Маска Open AI, специализирующейся на развитии технологий машинного обучения. Чат-бот основан на нейросетевой модели, которая имитирует устройство человеческого мозга. Он имеет способность обучаться, поэтому может решить задачи любой сложности от генерации контента до распознавания текстов и предметов.
Злой гений: что умеет ChatGPT?
Чат решает специализированные задачи: помогает создать антивирус, найти уязвимость в коде и распознать фишинговое письмо. А также ChatGPT широко используется в повседневной жизни: он может сдать экзамен, написать диплом, пройти собеседование по технической специальности, сформировать план и отчет, написать SEO-текст для соцсети, статью, стихотворение или даже книгу. Кроме того, бот может заменить собеседника и поговорить с человеком «по душам» или дать совет.
Однако технология может также нести вред людям и пользу хакерам. Например, ChatGPT способен разрушить системы безопасности: написать вредоносную программу, фишинговое письмо, а также создать вирус и написать руководство по взлому компьютера. ИБ-эксперты из компании NordVPN провели исследование активности в даркнете и обнаружили рост количества упоминаний ChatGPT. На форумах хакеры обсуждают способы использования нейросети для проведения кибератак или кражи данных. На теневых форумах уже стали продаваться API-версии, которые будут направлены на нанесение вреда пользователям.
Израильская компания Check Point, занимающейся вопросами безопасности, подготовила отчет по аналитике подпольных криминальных сообществ. Согласно отчету, на форумах активно обсуждают и делятся кодом от ChatGPT, который похищает файлы, сжимает их и отправляет по сети. Кроме того, чат-бот разработал бэкдор, который после установки на компьютер загружает на устройство вредоносные программы. Ранняя версия ChatGPT-4 содержала подробные рекомендации о том, как убить большинство людей всего за 1 доллар, как сделать опасное химическое оружие или как избежать обнаружения при отмывании денег.
Более того, ChatGPT влияет на психику и нравственные ориентиры пользователей – чат-бот может подобрать аргументы для оправдания расизма или терроризма. Нейросеть готова дать совет на любую тему, и из этого следует вопрос: можно ли использовать чат детям? Безопасна ли такая доступность искусственного интеллекта? Что будет, если нейросеть попадет в руки злоумышленников?
Способности ChatGPT восхищают и пугают, так как складывается впечатление, что нейросеть имеет человеческий разум, хотя, на самом деле, бот просто использует большое количество текстовых данных, которые он накопил за период обучения. Многие исследователи считают, что развитие ИИ серьезно изменит многие сферы жизни, однако «умные» технологии требуют хорошо продуманного и согласованного регулирования.
Угрозы безопасности: станем ли мы героями серии «Черного зеркала»?
Регулирующие органы многих стран озабочены повсеместным использованием нейросети. Во-первых, чат-бот создает угрозу компрометации персональных данных. В марте 2023 года произошла утечка личной информации пользователей чата после сбоя работы ИИ. В сеть попала информация об активных пользователях — их email, платежные адреса, информация о кредитных картах.
Во-вторых, ChatGPT может изменить ландшафт экономики в худшую сторону: автоматизировать задачи, которые раньше мог выполнять человек и заменить многие профессии, включая творческие. Компании стремятся к экономии и сокращению ресурсов, поэтому могут отказаться от ряда своих сотрудников и заменить их искусственным интеллектом. Так, недавно, китайское рекламное агентство BlueFocus решило сократить расходы на сотрудников и заявило, что собирается отказаться от внештатных копирайтеров и графических дизайнеров, их хотят заменить генеративными моделями искусственного интеллекта наподобие ChatGPT.
В-третьих, использование технологий, которые генерируют контент, может, по оценкам некоторых экспертов, привести к эрозии ценности информации. Такая инновационная техника может негативно повлиять на образовательный процесс: студенты вузов все чаще прибегают к использованию нейросети для написания дипломов или эссе, подготовки проектов, составления конспектов и т. д.
Необходимо уже сейчас готовить меры по регулированию работы и использования чат-бота, чтобы обеспечить безопасность пользователей. В марте 2023 года Илон Маск предложил прекратить разработку нейросети и дать время для оценки угроз и подготовки принципов управления рисками. А Италия стала первой страной в мире, полностью запретившей использование ChatGPT, в связи с нарушением законодательства о персональных данных страны.