Если вы пропустили GPT-3

Dec 20 2022
Предупреждение: эта статья предназначена для людей, не разбирающихся в данных или искусственном интеллекте. Я делаю некоторые приближения, чтобы упростить вещи.

Предупреждение: эта статья предназначена для людей, не разбирающихся в данных или искусственном интеллекте. Я делаю некоторые приближения, чтобы упростить вещи.

Вы проснулись, как обычно, и вытащили телефон, чтобы зайти в Твиттер. А потом цунами . Тысячи твитов говорят о GPT-3, OpenAI или ChatGPT. Ты снова ложишься спать.

Но когда вы снова просыпаетесь, вы удивляетесь, почему так много людей говорят об этом и что такое GPT-3?

Не волнуйся, я тебе все объясню.

Генеративный ИИ

Прежде чем перейти к сути дела, мне нужно объяснить, что такое генеративный ИИ.

Генеративный ИИ относится к классу систем ИИ, способных генерировать новые данные, такие как текст, изображения или аудио, на основе набора входных данных и набора правил или целей.

Проще говоря, мы даем алгоритму набор данных, которые он будет проверять, чтобы понять правила и функционирование, чтобы сгенерировать новый результат (например, предложение или изображение).

Вот что возвращает генеративный ИИ Midjourney, когда его просят предоставить реалистичное изображение мороженого с вишней и зефиром.

Поговорим о ГПТ-3

GPT-3 — это компьютерная программа, разработанная OpenAI, которая может понимать и генерировать человекоподобный текст. Он может читать и писать на многих языках и даже может писать рассказы или отвечать на вопросы, которые ему задают люди. Это что-то вроде действительно умного робота, который может говорить и писать так же, как человек. Но вместо тела он живет в компьютере и общается через интернет.

Вы, вероятно, думаете, что я очень хорошо обобщил GPT-3, потому что я гениальный писатель, но вы ошибаетесь. Это определение было написано самим GPT-3. Но как? Давайте попросим GPT-3 дать нам более подробную информацию (результаты я дополню)

GPT-3 (сокращение от «Generative Pre-trained Transformer 3») — это система искусственного интеллекта для обработки языка, разработанная OpenAI. Это одна из самых больших и мощных языковых моделей, доступных в настоящее время, со 175 миллиардами параметров.

GPT-3 — это то, что мы называем LLM (большие языковые модели). Их называют «Большими», потому что они имеют необычайное количество параметров. Существует несколько типов больших языковых моделей, наиболее известными из которых являются преобразователи (GPT-3 или BERT) и рекуррентные нейронные сети (RNN, такие как LSTM или GRU).

Эти модели обучаются на огромном количестве данных из самых разных источников: статей, книг, Интернета и т. д.

Параметр — это значение, определяющее поведение или выходные данные алгоритма или модели. Он используется для точной настройки производительности алгоритма или модели и может быть настроен для оптимизации результатов для конкретной задачи или набора данных.

Чтобы лучше понять, что это такое, мы рассмотрим, какие параметры есть в модели линейной регрессии . Посмотрите на картинку ниже. Вы можете увидеть график рассеяния (синий) и аффинную функцию (красный). Эта красная кривая представляет нашу линейную регрессию.

Наша цель с этой красной кривой состоит в том, чтобы иметь возможность наилучшим образом аппроксимировать местонахождение новой точки, если бы ее значение было в x=1 или x=2.

Что мы можем изменить в нашей красной функции, чтобы она максимально соответствовала реальности? Аффинная функция записывается следующим образом: y = ax + b. Здесь у нас есть два параметра: a и b , на которых мы можем играть.
Не вдаваясь в подробности, нам нужно будет определить функцию стоимости, которая позволит нам узнать, близки ли мы к реальности или нет.

Теперь попробуйте представить 175 миллиардов параметров в одном ИИ. Невероятно нет?

Мы пытаемся найти красную кривую, которая лучше всего аппроксимирует синюю диаграмму рассеяния.

GPT-3 — это тип модели машинного обучения, известный как преобразователь, который обучен обрабатывать и генерировать текст на естественном языке. Он делает это, учась предсказывать следующее слово в последовательности слов, основываясь на словах, которые стояли перед ним. Чем больше текста он обрабатывает, тем лучше он предсказывает, какое слово будет следующим, и тем более человекоподобным становится его вывод.

Трансформеры довольно сложны для понимания. Если бы нам нужно было обобщить, что это такое, это алгоритм, который принимает данные и генерирует результат. Она называется нейронной сетью, потому что она основана на функционировании нейронов в мозгу.

На этом этапе преобразователь изменит параметры в соответствии с полученными данными. Чем больше данных он увидит, тем больше он сможет уточнить свою модель (это приближение, в реальности все гораздо сложнее)

Если вы хотите узнать больше, вот увлекательная статья на эту тему (немного более техническая)

GPT-3 можно использовать для широкого круга языковых задач, таких как перевод, обобщение, ответы на вопросы и генерация текста. Его можно даже использовать для генерации кода и выполнения других задач, требующих высокого уровня понимания языка.

Вопрос, который вы, естественно, сейчас мне зададите, как я могу протестировать GPT-3? Ну и самым простым способом с ChatGPT.

ChatGPT: обсудить с ИИ

ChatGPT — это вариант GPT-3, специально разработанный для разговорных языковых задач, таких как диалог с чат-ботом и ответы на вопросы. Он обучен на большом наборе данных разговорного текста и имеет более глубокое понимание структуры и моделей человеческого разговора.

Одним из ключевых различий между GPT-3 и ChatGPT является тип данных, на которых они обучаются, и задачи, для которых они оптимизированы. GPT-3 обучается на широком спектре данных из Интернета и может быть настроен для конкретных задач, в то время как ChatGPT специально разработан для задач разговорного языка и может не справляться с другими типами языковых задач.

И сразу же почувствовался успех ChatGPT, особенно в социальных сетях, таких как Twitter. И когда мы смотрим на статистику, мы понимаем популярность ChatGPT.

Источник: chartr (кстати, лучший информационный бюллетень данных)

Какое приложение в реальном мире?

Применение такого ИИ изменит мир. В прямом смысле. Это позволяет упростить многие длительные и сложные задачи и открывает путь к новым приложениям.

Вот что Sequoia Capital говорит в этой статье :

«Точно так же, как мобильные устройства открыли новые типы приложений благодаря новым возможностям, таким как GPS, камеры и возможность подключения на ходу, мы ожидаем, что эти большие модели будут стимулировать новую волну генеративных приложений ИИ».

Я приведу вам несколько примеров использования генеративного ИИ.

Разрешить разработчикам писать код быстрее

GPT-3 революционизирует мир разработки. Не нужно самостоятельно кодировать определенные функции при написании предложения, ИИ позаботится об этом за нас.

Пример ниже является базовым, но позволяет вам увидеть силу генеративного ИИ. Конечно, он еще не идеален, но уже исключителен.

Средняя функция ChatGPT

Более того, если у нас есть ошибка в нашем коде, и мы не можем ее найти, мы можем обратиться к этому виду ИИ, чтобы сказать нам, что делать, или даже исправить ошибку за нас.

Создавайте видеоконтент

Вскоре можно будет создавать с нуля или из видео, чтобы иметь возможность изменить то, что мы видим, с помощью простой подсказки.

Пример лучше, чем 1000 слов. Поэтому я приглашаю вас посмотреть видео ниже (вы увидите, что оно по-прежнему требует некоторых технических знаний, но я не сомневаюсь, что скоро это станет проще).

Кроме того, вы услышите о DALL-E, и я должен вам это объяснить.

DALL-E (произносится как «куколка») — это модель глубокого обучения, разработанная OpenAI, которая способна генерировать изображения из текстовых описаний с использованием нейронной сети, обученной на наборе данных пар текст-изображение. Модель обучается генерировать изображения путем обработки текстовой подсказки и создания изображения, представляющего содержимое, описанное в тексте. Например, при наличии текстовой подсказки «Двухэтажный розовый дом с белым забором и красной дверью» модель может сгенерировать изображение розового дома с белым забором и красной дверью.

Пишите на определенную тему

Что может быть лучше, чем ChatGPT, чтобы ответить на этот вопрос?

Следующий абзац сгенерирован ChatGPT

Чтобы использовать GPT-3 для записи на определенную тему, вы обычно предоставляете модели подсказку или набор подсказок, в которых излагаются основные моменты, которые вы хотите охватить в тексте. Например, вы можете предоставить подсказку, в которой излагаются основные моменты, которые вы хотите сделать в статье о преимуществах возобновляемых источников энергии.

Как только подсказка предоставлена, GPT-3 сгенерирует текст, соответствующий теме и соответствующий структуре и стилю подсказки. Сгенерированный текст будет связным, хорошо написанным и свободным от ошибок, что делает его эффективным инструментом для быстрого и эффективного создания высококачественного контента.

В целом, GPT-3 — это мощный и полезный инструмент для создания текстов по широкому кругу тем. Его могут использовать писатели, маркетологи и другие специалисты для быстрого и эффективного создания высококачественного контента без необходимости проведения обширных исследований или времени на написание.

Обеспечьте доступ к данным для всех

Доступ к данным в корпоративном мире часто является головной болью. Нужно иметь глубокие знания в области науки о данных в целом, а также в структуре данных в компании.

Я создал Vazy решение с использованием GPT-3, которое решает эту проблему. Вам достаточно задать вопрос на любом языке, GPT-3 переведет его на SQL (язык базы данных) и через несколько секунд отобразит данные. Не нужно тратить часы на поиск нужных данных.

Вот видео того, как это выглядит.

Продукт все еще находится в разработке (GPT-3 — это лишь небольшая часть проекта, мы также управляем отображением и качеством данных и направляем пользователя в его использовании), но если вы заинтересованы, присоединяйтесь к списку ожидания .

GPT-4: все лучше и лучше

Вы можете себе представить, что OpenAI не собирается останавливаться на GPT-3, поскольку мы видим сумасшедший потенциал модели и энтузиазм сообщества. Поэтому они работают над GPT-4, новой эволюцией модели, которая должна победить GPT-3.

По мнению многих информаторов в Твиттере, GPT-4 должен содержать более 100 ТРИЛЛИОНОВ параметров. 100 ТРИЛЛИОНОВ.

Чтобы дать вам представление о разнице с GPT-3, вот картинка, на которой сравнивается размер по количеству параметров.

ГПТ-3 против ГПТ-4 по параметрам

Так из чего же будет состоять будущее генеративного ИИ?

Заключение

Прежде всего, я надеюсь, что эта статья помогла вам лучше понять, что такое генеративный ИИ, LLM, GPT-3 или ChatGPT.

В заключение я хотел бы предостеречь вас от двух подходов, которые мы довольно часто наблюдаем в социальных сетях, особенно в Твиттере.

GPT скоро сможет полностью заменить некоторые рабочие места

Я думаю, что это неправильный подход к нынешнему состоянию генеративного ИИ. Это следует рассматривать как большую помощь людям в их повседневных задачах, и я думаю, что мы можем предположить, что гибридная работа появится в ближайшие годы. Ни человек, ни машина не работают в одиночку, а смесь обоих знаний. На уровне даже более важном, чем то, что мы испытываем в Интернете.

GPT — это AGI

Искусственный общий интеллект (AGI) — это тип искусственного интеллекта, который способен понять или изучить любую интеллектуальную задачу, которую может выполнить человек.

ОИИ — это Святой Грааль, о котором мечтает каждый исследователь ИИ.

Однако есть очень простой способ понять, что GPT еще очень и очень далеко не станет AGI. Если бы это было так, GPT уже могла бы открыть в математике, физике или компьютерных науках то, чего раньше не открывал ни один человек.

Тем не менее, GPT и работа OpenAI все больше и больше приближают нас к этому AGI. Область генеративного ИИ превосходит предсказания закона Мура, и я лично считаю, что к 2030 году мы достигнем ОИИ.

И наш мир изменится навсегда. Произойдут величайшие потрясения, с которыми когда-либо сталкивались люди, и произойдут глубокие изменения в обществе.

Я не могу дождаться, чтобы увидеть это.

Если вам понравилась статья, и вы хотите порадовать меня, не стесняйтесь зайти на vazydata.com и присоединиться к списку ожидания ;)