О нейронках честно
Chat GPT – такой же, по сути, инструмент, как поисковик. Никто же не аннулирует работы за то, что материалов к ним искали в Гугле, а не в библиотеке перерывали полки.
Такой аргумент часто приводят в защиту нейронных сетей как со-/авторов статей, сочинений и различных научных работ.
А в чём суть?
Если напрямую не касаться вопросов честности и правильности использования такого помощника при выполнении различных задач, то насколько адекватно сравнение нейронной сети с примитивным устройством поисковика?
На первый взгляд, вполне логичное и закономерное наблюдение. Есть определённая база, с которой работают оба механизма, поиск и ранжирование информации происходит по ключевым словам… и тут происходит столкновение с одним большим НО.
Такие похожие, но такие разные
Поисковики работают с существующими текстами и ищут в них не нужную информацию, а ключевые слова, затем на их основе создают выборку страниц для пользователя. Нейросеть действует аналогично до какого-то момента, но в результат выводит не подходящие варианты, а уже сформулированный ей самой «точный» ответ на вопрос.
Только составленная ИИ, как и поисковиком, выборка источников информации грешит неточностями. Виноваты могут быть недобросовестные модераторы, писатели, которые наводняют просторы сети спамом. Ещё проблемой в понимании может стать многозначность слов. Итог один, в подборке могут оказаться ресурсы с недостоверной информацией.
Вкалывают роботы, а не человек
При работе с поисковой системой дальнейший отбор информации производит человек. Работа долгая и кропотливая. Сначала надо просмотреть сайты, затем выбрать внушающие большее доверия, синтезировать идеи разных источников и только потому самому составлять текст.
Чудесны искусственные мозги нейронки, что проделывают за нас этот длинный путь! Они работают намного быстрее, изучают целый ряд текстов и выводят из них ответы меньше, чем за минуту. Мозгам человека о такой продуктивности даже не мечтать. Правда в том, что только скорость и отличает нейронные связи в голове и где-то на сервере.
ИИ хочет быть человеком
При осторожном использовании чат-бота на смену восторгу в какой-то момент приходит лёгкое разочарование. Схожего с мыслительными процессами человека оказывается в программе слишком много.
Так, при невозможности ответа (когда нет доступа к требуемому источнику) нейросеть спокойно начинает врать. Попробуй попросить её законспектировать защищённую статью, и ИИ с радостью ответит. По ключевым словам из запроса сама придумает содержание.
Или при выборе авторитетного источника для ответа на вопрос пользователя выберет сомнительный сайт, который сам человек не стал бы использовать в своей работе.
Не вини другого в своих слабостях
И главное, система будет не виновата, как часто тот же поисковик в верхних позициях даёт ссылки на сайты вроде Пикабу. Почему выборка ИИ должна быть другой, если на этом этапе их алгоритмы схожи.
Только вот Гугл или Яндекс просто дают перечень вариантов в качестве ответа. А у нейронной сетки дальше включается её «человеческое» начало – эгоцентричное желание дать один ответ на любой, даже самый широкий, вопрос.
В итоге, могут возникать неверные и абсурдные идеи, спрятанные под красивой и логически ровной подачей сгенерированного текста. Например, попытка узнать смысл поэмы Маяковского «Война и мир» может завершиться убедительной отповедью чата о том, что «Война и мир» – это роман Л. Н. Толстого, никак не связанный с фамилией Маяковского.
Надеемся, тебе будут полезны наши наблюдения за Chat GPT. Пусть он оказался не самым верным на свете помощником, но хоронить его не стоит. Просто будь аккуратен и обращайся к чату за красивыми формулировками, а точную информацию надёжней в поисковике найти!