Обычно мне нравится Slack на работе — я могу кое-чему научиться и сделать симпатичную фотографию собаки или что-то в этом роде. Но сегодня было иначе.

Неизбежный разговор о chatGPT был сегодня в моем собственном чате Slack. Я люблю машинное обучение, некоторое время работал в этой области, а теперь помогаю предоставлять данные тем, кто занимается машинным обучением — это ощущается по-другому. Что такое chatGPT от openai? И почему это заставляет меня писать это зловещее предисловие?

Если вы похожи на меня, вы перестанете читать и немного поиграете с chatGPT , а затем вернетесь. Довольно удивительно, верно? Вы спрашиваете chatGPT о чем угодно и получаете невероятно правдоподобный ответ. Чувствуется магия. Что он не может сделать? Он пишет эту статью?

ЧТО ТАКОЕ чатGPT

Важно помнить, что это такое (раньше я занимался очень простым моделированием естественного языка, т.е. НЛП) — GPT означает генеративный предварительно обученный преобразователь. Он отличается/захватывает от других современных методов НЛП из-за того, как узлы связаны в этой глубокой нейронной сети, т.е. это приводит к тому, что он может выполнять вычисления над большими предложениями, заполненными разными словами, одновременно, а не последовательно. Эти преобразователи рассматривают целые предложения в контексте, выполняя вычисления, которые действительно эффективны (вам не нужно устранять неоднозначность контекста слов для модели, например, «сальса», как в танце или еде). Инженеры по машинному обучению все еще должны решить, какие примеры показывать GPT, т.е. выбросы? Нормальные? Они активно настраивают ручки, чтобы сделать его лучше (так называемые гиперпараметры), а также помогают подтвердить хорошие ответы для chatGPT, т.е. обучение с подкреплением. Первоначальные итерации GPT были хороши для: заполнения пробелов, вывода или перевода.

МОЖЕТ ТЕПЕРЬ ОНА МОЖЕТ БОЛЬШЕ?

Эта новейшая итерация GPT, chatGPT, также известная как GPT 3.5, кажется, что у нее момент хоккейной клюшки — похоже на то, что я вижу в потоковой передаче данных . Одним словом, потоковая передача данных (Confluent) подпитывает критически важные приложения непрерывной подачей информации почти в режиме реального времени (подумайте о том, что брокерское торговое приложение для размещения ордеров или система мониторинга мозгового давления в детской больнице только что остановились? получение данных?). Таким образом, потоковая передача данных действительно является основой данных для всех видов современных приложений, от Instacart до Northrop Grumman и NLP-приложений .похоже на ChatGPT. Это столкновение технологических усовершенствований одновременно возбуждает и нервирует. О каком именно улучшении идет речь?

МАШИННОЕ ОБУЧЕНИЕ ДО GPT

Давайте вернемся к диаграмме Кай Фу Ли примерно с 2018 года (многое происходит за несколько лет в технологиях). См. Ted Talk Ли здесь. Tl;dr Lee выполняет работу, которую, скорее всего, заменит ИИ (это его родной язык, а не мой). Он утверждал, что ИИ будет иметь:

• самое сильное влияние на избыточные рабочие места (нижний левый квадрант)
• стать жизненно важными инструментами для творческой работы (внизу справа)
• работать как более легкий «аналитический» инструмент для работы с высоким уровнем сострадания (вверху слева)
• и, наконец, верхний правый, вероятно, останется наименее дополненным ИИ.

ТЕСТИРОВАНИЕ чатаGPT

Я рад задать несколько вопросов, которые я получаю во время своей работы, в качестве эксперимента, чтобы проверить, на что способен chatGPT.

GPT БЫЛ ХОРОШО В

Чтобы не оттолкнуть нетехнических читателей, я задал GPT вопрос, который требует объединения различных технологий. Это было неплохо. В приведенном ниже примере GPT успешно использует эти конкретные технологии:

1. инструмент инфраструктуры как кода под названием Terraform
2. Дистрибутив kubernetes, предоставленный облачным провайдером (AWS).
3. Операционная система на базе Linux (также через AWS)

Впечатляет то, как GPT обеспечивает богатую обратную связь в области разработки программного обеспечения в целом. Для этого инженера NLP это обеспечивает гораздо лучшую обратную связь, чем если бы он запускал R на своей локальной машине (он создал эмуляцию R в ChatGPT).https://twitter.com/ben_j_radford/status/1599180658827440128

НЕ ТАК ХОРОШО В

Здесь я задал GPT более распространенный вопрос, который я получаю, где он только что придумал команды CLI, которые полностью не существуют ( Confluent Tunnelэто не команда в CLI Confluent - я работаю в Confluent). Здесь я спросил: « Как мне безопасно подключить локальный источник данных к Confluent Cloud? »

Интересно, что если бы вы оценили интеллект chatGPT с помощью нашей (человеческой) традиционной оценки, то, по-видимому, он был бы ниже среднего:https://twitter.com/SergeyI49013776/status/1598430479878856737

ЗАДАЮ ЭТО ВОПРОСЫ, НЕ СВЯЗАННЫЕ С МОЕЙ РАБОтой

Хорошо, это иронично / не очень полезно, но все же я спросил ChatGPT о себе, и он предоставил дезинформацию:

То, что ChatGPT притворяется, что это конкретное занятие, — это, пожалуй, самое удивительное явление в Интернете сегодня. Например, попросив его выступить в роли шеф-повара, он дал несколько хороших идей для ужина со списком ингредиентов и инструкциями:

Другие забавные подсказки «действовать как» здесь .

ОПТИМИСТИЧЕСКИЙ ПРОГНОЗ

Я бы сказал, что если мы посмотрим на прогнозы Ли в 2018 году, chatGPT оказывает огромное влияние на оба квадранта справа от нашей оси Y. Его отзывы невероятно богаты. Творческие задачи, такие как придумывание сценариев для сценариев, декорирование физических пространств — к этим вещам часто трудно приступить. Я отправляю в chatGPT несколько подсказок, и у меня есть стены текста, чтобы мои идеи текли — это, несомненно, впечатляет. ChatGPT, который ближе ко мне, также катализирует задачи по разработке программного обеспечения. Что касается версии chatGPT 3.5 (подпитка chatGPT), она не способна создавать действительно готовый к работе код; тем не менее, это дает мне отличный исходный материал, который я могу затем уточнить, что экономит мне часы первоначальных исследований с помощью Stackoverflow и т. д.

НЕ ТАКИЕ ОПТИМИСТИЧЕСКИЕ ПРОГНОЗЫ

В глубине души сейчас все думают, может ли chatGPT сделать что-то разрушительное. В одиночку он, конечно, не может, это не какой-то автономный агент, ему нужно вмешательство человека, чтобы что-то сделать. Но скажем, если бы вы не были осторожны при тестировании и интерпретации выходных данных chatGPT, а просто перенесли некоторый код из chatGPT — я мог бы представить себе ситуацию, когда разработчик случайно крашит сервер или что-то в этом роде. Это не кажется мне действительно тревожным, потому что у большинства инженеров есть хорошие процессы для тестирования, проверки и, наконец, выпуска кода в производственную систему.

Что может быть тревожным, так это то, как показано в моем примере выше, где я спросил chatGPT, что это такое — chatGPT иногда просто выдает дезинформацию (openai признает это). Вы могли бы возразить, что распространение дезинформации в сети уже свирепствует — какой еще источник? Тем не менее, это первый раз, когда у нас есть эта дезинформация без лица. Никто не может проследить путь запроса от интерфейса chatGPT через слои сложных нейронных сетей и точно определить, как приходит ответ. Это резко контрастирует с тем, что кто-то цитирует статью из журналистского источника (где вы можете сделать вывод о политическом влиянии и т. д.).

ЗАКЛЮЧИТЕЛЬНЫЕ МЫСЛИ, GPT 4 грядет

ChatGPT даст вам ответ. Используйте его достаточно долго, и он даст вам неправильный ответ. Это неправильно поймет вас. ChatGPT — это только версия 3.5 серии GPT. Вскоре он будет давать лучшие ответы. Я провожу большую часть своего рабочего дня, задавая вопросы типа: ты действительно это имеешь в виду? Вы знаете, почему существует это требование? Как прошла эта оценка? Именно благодаря таким открытым вопросам, как эти, я действительно помогаю людям, а иногда и раскрываю то, о чем они даже не подозревали. Мы гораздо больше, чем машины для ответов на вопросы. Мы чрезвычайно нюансированы. Выходите и внимательно слушайте — вы будете задавать более качественные вопросы, а значит, и более качественные ответы.