Новые термины и понятия в сфере Искусственного Интеллекта (ИИ) и их значение

Появление в конце 2022 года чат-бота ChatGPT стало важной вехой в развитии искусственного интеллекта, на достижение которой потребовались десятилетия. Ученые экспериментировали с «компьютерным зрением» и давали машинам возможность «читать» еще в 1960-х годах. Сегодня можно представить компьютер, выполняющий многие человеческие задачи лучше, чем люди. Независимо от того, беспокоитесь ли вы о том, что вас заменит робот, или просто интересуетесь развитием нейросетей, вам будет полезно познакомиться с некоторыми часто используемыми новыми терминами, связанными с искусственным интеллектом, и их значением.

Машинное обучение

Машинное обучение (МО) или Machine Learning (ML) — это процесс постепенного улучшения алгоритмов — наборов инструкций для достижения конкретного результата — путем предоставления им больших объемов данных. Просматривая множество «входов» и «выходов», компьютер может «обучаться» без обязательного понимания смысла выполняемой работы. Возьмем для примера приложение для фотографий на iPhone. Изначально программа не знает, как вы выглядите. Но как только вы начнете отмечать себя на фотографиях, сделанных в течение многих лет в самых разных обстановках, алгоритмы, заложенные в ваш айфон, быстро научатся узнавать вас на самых необычных фото.

Чат-боты

Эти программы позволяют компьютерам вести беседы с пользователями на самые разные темы: от исторических анекдотов до рецептов экзотических блюд. Примерами таких программ являются диалоговые окна, которые поставщики услуг используют на своих сайтах и приложениях в качестве первого окна интерактивной помощи для клиентов, зашедших на сайт. Ожидается, что чат-боты, такие как ChatGPT от OpenAI и Bard от Google, будут быстро совершенствоваться в результате последних достижений в области искусственного интеллекта и изменят способы поиска в Интернете.

Генеративный Искусственный Интеллект (ИИ)

Под Генеративным Искусственным Интеллектом (ИИ) понимается способность компьютерных программ создавать сложные продукты — картины, эссе, стихи, — на основе простых запросов или команд. Примерами таких программ являются DALL-E от OpenAI, который может создавать сложные и детальные изображения за считанные секунды, и MusicLM от Google, который генерирует музыку из текстовых описаний. Генеративный ИИ создает новые произведения после обучения на огромном количестве уже существующего материала (например, стихов или картин). Это привело к судебным искам со стороны правообладателей, которые жалуются, что их собственные работы были украдены.

Нейронные сети

Это тип искусственного интеллекта, в котором компьютер запрограммирован на обучение примерно так же, как человеческий мозг: методом проб и ошибок. Успех или неудача каждого шага определяет дальнейшее направление поиска решения поставленной задачи, точно так же, как развивающийся мозг ребенка запоминает «правильные» решения на основе предыдущего опыта.

Большие языковые модели

Большие языковые модели или Large Language Models (LLM) – это очень большие нейронные сети, которые обучаются с использованием огромных объемов текста и данных, включая электронные книги, новостные статьи и страницы Википедии. Благодаря миллиардам параметров, которые учитываются при анализе текста, большие языковые модели формируют ту основу, с помощью которой компьютерные программы могут распознавать, обобщать, переводить, прогнозировать и генерировать текст. При этом используются те же алгоритмы, которые применяются для «обучения» нейросетей: сначала компьютерные программы проводят анализ большого количества текстов, а потом нейронная сеть использует их для предсказания вероятности следующего слова в зависимости от предыдущих словосочетаний в предложении. Вероятности формируются на основе распределения частотности слов в текстах, на которых была обучена модель.

GPT (Generative Pre-trained Transformer или Генеративный предварительно обученный трансформер)

Generative Pre-trained Transformer (Генеративный предварительно обученный трансформер) — это разновидность Большой языковой модели.

Собственно Трансформер – это уникальный вычислительный механизм, который принимает на вход набор последовательностей данных и возвращает на выходе набор, преобразованный посредством алгоритма. Так как текст, изображения и звук можно представить в виде последовательности чисел, это значит, что с помощью трансформера можно решить задачи любой сложности.

Кроме того, Трансформер является системой, которая может анализировать и обрабатывать данные в совокупности, а не изолированно, что позволяет учитывать контекст и порядок слов. Это важно при языковом переводе. Например: «Ее собака Поппи ела на кухне» можно перевести на французский как «Поппи съела свою собаку на кухне», не уделяя должного внимания порядку, синтаксису и значению.

Трансформер значительно повлиял на развитие языковых моделей, так как он позволяет более эффективно и точно обрабатывать и генерировать тексты. На основе этого механизма была создана модель GPT (Generative Pretrained Transformer), которая считается одной из наиболее успешных в задачах генерации текстов.

Галлюцинации

Когда ИИ, такой как ChatGPT, выдумывает что-то, что звучит убедительно, но полностью выдумано, это называется галлюцинацией. Это результат того, что система не имеет правильного ответа на вопрос, но, тем не менее, знает, как будет звучать хороший ответ, и представляет его как факт. Существуют опасения, что неспособность ИИ сказать «Я не знаю», когда его о чем-то спрашивают, приведет к дорогостоящим ошибкам, опасным недоразумениям и распространению дезинформации.

Особенно серьезно подобные ошибки влияют на репутацию таких крупных компаний, как Гугл. В течение многих лет «гуглить» означало получать подробную информацию из Интернета. Сегодня это означает пробираться сквозь рекламу, спам и, в последнее время, крайне неточные ответы ИИ. Новая функция «Обзор искусственного интеллекта», представленная Google в мае 2024, привела к шквалу ошибок, которые, наверно, заставили генерального директора Alphabet Inc. Сундара Пичаи сильно понервничать. Когда программу спросили о том, почему сыр соскальзывает с пиццы, пользователю рекомендовали нанести клей. Другим пользователям сообщили, что питон — это млекопитающее, а Барак Обама – первый президент-мусульманин.

Разумный Искусственный Интеллект

Хотя Искусственный Интеллект демонстрирует человеческие способности, машины еще не «понимают», что они делают или говорят. Они просто находят закономерности в огромных объемах информации, генерируемой людьми, и создают математические модели, которые позволяют генерировать тексты или рисунки по тем же алгоритмам, которые использовались для их создания людьми. Тем не менее, большинство экспертов сходятся во мнении, что разумный, сознательный ИИ, способный воспринимать и размышлять о мире вокруг себя, станет реальностью уже через несколько лет. Следует отметить, что возможность появления разумного ИИ вызывает наиболее оживленные дискуссии в экспертном сообществе, так как до сих пор нет однозначного понимания, что такое сознание.

Эмерджентное поведение

Эмерджентное поведение (Emergent Behaviors) относится к действиям или шаблонам, которые не были явно запрограммированы в системе ИИ, но развились как естественный результат ее сложности и взаимодействий.

В природе эмерджентность присутствует повсюду. Представьте себе колонию муравьев. Ни один муравей не имеет представления о сложном поведении колонии. Тем не менее, вместе они демонстрируют сложные действия, такие как строительство гнезд или поиск пищи. Другим примером являются стаи птиц. Каждая птица следует простым правилам, например, держится на определенном расстоянии от своих соседей. Но когда сотни птиц одновременно следуют этим правилам, они создают в небе замысловатые узоры. Нет лидера или центрального плана; потрясающие, плавные формы являются возникающими свойствами многих индивидуальных действий. Аналогичным образом, в ИИ эмерджентное поведение возникает, когда простые правила или алгоритмы взаимодействуют в сложной системе, что приводит к результатам, которые могут удивить даже создателей ИИ.

Увеличение параметров в языковой модели может привести к качественному скачку в ее способности решать сложные задачи. Когда большие языковые модели достигли определенного масштаба, они начали проявлять способности, которые, казалось, возникли из ниоткуда, в том смысле, что их создатели не предполагали и не ожидали их появления. Однако этот переход количества в качество не происходит линейно: при небольшом увеличении параметров может не произойти никаких значительных изменений, но если дойти до определенного порога можно внезапно получить ошеломляющие результаты (ответы) от ChatGPT или любой другой языковой модели. Некоторые примеры включают генерацию исполняемого компьютерного кода, создание странных историй и узнавание фильмов по цепочке смайликов в качестве подсказок.

Промпт-инженеры

Точность и качество ответов больших языковых моделей во многом зависят от качества задаваемых им вопросов. Операторы запросов или подсказок (промптов), или промпт-инженеры (Prompt engineers), могут точно сформулировать формулировку запроса для ChatGPT на языке, понятном для исполнения компьютерными программами, что способствует получению стабильных высококачественных результатов даже при минимальной мощности компьютера. Эти навыки пользуются большим спросом.

Источник: https://www.bloomberg.com/news/articles/2023-06-09/what-s-generative-ai-what-s-machine-learning-an-ai-cheat-sheet