Водоворот ChatGPT

Жан-Луи Гассе

ChatGPT быстро захватила воображение, чего не было со времен появления iPhone в 2007 году. Сегодня мы совершим предварительную, случайную прогулку по его быстро расширяющемуся ландшафту.

Когда я с радостью возвращаюсь к своему письменному столу после поездки по Франции и Австрии, я вижу изобилие дразнящих тем в моем любимом мире технологий: деловые и юридические невзгоды Илона Маска; безумные слухи об Apple Cars и гарнитурах с дополненной реальностью; увольнения в технологической отрасли и самодовольный рассказ о предыдущих кровопролитиях («Да ведь еще во времена Большого сокращения двадцати четырех лет…») Этот список можно продолжить.

Сегодня мы прогуляемся по новому миру возможностей, возникших в результате внезапного появления ChatGPT , Машинного обучения в облаке, который часто «говорит» как очень знающий помощник, учитель, оракул, терапевт или юридический аналитик.

В декабрьской заметке в понедельник под названием ChatGPT: это ничего, вам это не нужно. И мы получим это через шесть месяцев , я провел параллель между ChatGPT и появлением персональных компьютеров в конце семидесятых: пока соответствующие технологии не стали популярными, непрофессионалы (также известные как «Остальные из нас») видели в них таинственные домены, чьи практики говорил на языках. До ChatGPT область глубокого обучения была населена умниками, не желавшими объяснять свое изобретение. (Попутно отметим, насколько непроницаемы статьи Википедии о ChatGPT и Deep Learning.)

Напротив, ChatGPT был прост в использовании, чрезвычайно мощен и часто доставлял удовольствие… и был доступен любому, у кого есть смартфон или ПК. Сразу после его появления в ноябре прошлого года взорвались исследования, начиная от образования и заканчивая медициной, от стихосложения до лоббирования, программирования, написания меморандумов, разработки сценариев и многого другого. Если вы еще не пробовали, вы можете зарегистрироваться здесь .

Естественно, критики умерили наш энтузиазм. Я не буду останавливаться на их бесформенных опасениях, что технологии лишат людей рабочих мест, или на поспешной защите: нет, не будет . Мы получаем это с каждой новой технологией. История говорит нам, что трудности перехода поглощаются, что в то время как одни рабочие места теряются, другие создаются.

Возникают более конкретные вопросы. Например: как ChatGPT влияет на образование? Раньше учитель мог использовать программное обеспечение для обнаружения плагиата , чтобы проверить оригинальное качество работы ученика. В настоящее время, к сожалению, ChatGPT проходит тест на плагиат.

Если не звонить в колокол для сочинения в колледже , многие преподаватели понимают, что пути назад нет, и готовы адаптироваться. Они должны не запрещать ChatGPT, а учить с его помощью , чтобы потенциал перевешивал риск. Профессор Уортонской школы издал следующие рекомендации для своего класса:

(На более глубоком уровне на сайте Wharton School есть длинное подробное обсуждение рисков и управления искусственным интеллектом . Из любопытства я попросил ChatGPT подытожить разоблачение из 7 тысяч слов. Это привело к сообщению об ошибке и уничтожению моих предыдущих разговоров. .)

Сменив тему, мы переходим к эссе NY Times с угрожающим названием « Как ChatGPT похищает демократию» . Этот человек считает, что тезис авторов можно резюмировать следующей цитатой [как всегда, отредактировано и выделено мной]:

«… несмотря на весь ужас по поводу возможности замены людей машинами в таких форматах, как поэзия и сценарии ситкомов, вырисовывается гораздо большая угроза: искусственный интеллект заменяет людей в демократических процессах — не путем голосования, а посредством лоббирования».

Я попросил ChatGPT предложить собственное резюме из 1,1 тысячи слов эссе. Машина в Облаке на этот раз не задохнулась и обязана следующим:

«ChatGPT, чат-бот, созданный OpenAI, может заменить человеческую работу при составлении повседневных сообщений, таких как электронные письма, эссе и другие формы письма. Однако большую озабоченность вызывает потенциал ИИ заменить людей в демократических процессах не посредством голосования, а путем лоббирования. ChatGPT может составлять комментарии, представленные в рамках регламентирующих процессов, писать письма редактору и комментировать новостные статьи, записи в блогах и сообщения в социальных сетях. Это могло бы имитировать работу Российского агентства интернет-исследований, пытающегося повлиять на выборы, но с гораздо меньшим бюджетом и меньшим количеством сотрудников. Беспокойство вызывает способность ИИ понимать и нацеливаться на участников в сети, создавая инструмент для взлома ИИ и использования уязвимостей в социальных, экономических и политических системах с высокой скоростью и масштабом.

Более чем достойное усилие (которое напомнило шестидесятилетний страх перед заданиями в колледже, которые требовали текстовых резюме, чтобы помочь развить понимание и выражение).

В более широком смысле мы можем представить, как ChatGPT анализирует контракты и соглашения, такие как безумно сложные и предельно честные Условия, которые мы просматриваем, не читая, не говоря уже о понимании. Другое «этичное» использование: ChatGPT может обобщать входящую электронную почту и предлагать ответы. Компании могли бы заменить возмутительно тупых чат-ботов, развернутых в качестве первой линии защиты от надоедливых клиентов, и наоборот: несколько дней назад нас порадовала беззаботная демонстрация, в которой ChatGPT договаривался о скидке с Comcast . Мы можем и, вероятно, будем продолжать и продолжать…

Но есть несколько ложек дегтя.

Начнем с того, что, как многие отмечают, ChatGPT допускает ошибки. Я играл в ранние викторины Apple и получал неверные ответы на арканы, такие как автор интересного языка под названием GraForth. ChatGPT изначально утверждал, что такого языка не существует. Когда ему предложили имя автора, Пол Лутус, ChatGPT вежливо извинился. Как ни странно, ChatGPT, похоже, не извлек уроков из своей ошибки: через несколько часов это случилось снова. ChatGPT также дважды не смог вспомнить, что Стив Джобс назвал Mobile Me «обменом для всех нас» — заявление, которое легко найти в архиве Apple Newsroom.

Это заставляет задуматься о программном коде, который ChatGPT охотно генерирует — с полезными пояснениями. Как насчет ошибок? Как программист, будет ли ChatGPT более или менее надежным, чем мы, люди?

Во-вторых, деньги. Сегодня ChatGPT бесплатен, но как долго?

ChatGPT поддерживается OpenAI , компанией, которая была основана в 2015 году как некоммерческая группа инвесторов во главе с Сэмом Альтманом, в которую когда-то входил Илон Маск. В 2019 году OpenAI перешел на операцию с «ограниченной прибылью», при которой инвесторы могут увеличить свои инвестиции не более чем в 100 раз. Все, что выше этого порога, идет в пользу компании. В то же время Microsoft объявила о «инвестиционном пакете» в размере 1 миллиарда долларов в OpenAI, а OpenAI сообщила о своем намерении лицензировать свои технологии на коммерческой основе.

Несколько дней назад Microsoft объявила, что «ведет переговоры» об инвестировании 10 миллиардов долларов в OpenAI на необычайно сложных условиях. Начнем с того, что часть инвестиций Microsoft, которую еще предстоит понять, может быть «натурой» в виде мощностей Azure Cloud Computing. Во-вторых, Microsoft будет получать 75% прибыли OpenAI до тех пор, пока она не возместит свои инвестиции и не получит 49% акций, а также еще 49% для других инвесторов при оценке в 29 миллиардов долларов. Поскольку условия сделки показались мне немного сложными, я попросил ChatGPT резюмировать соответствующие два абзаца в статье Semafor и не получил ничего полезного. Это, цитируя статью Semafor, «необычный для венчурных сделок». Никаких дальнейших новостей на момент написания этой статьи. Рано или поздно мы обязательно увидим поток оригинальных и переписанных историй — и зададимся вопросом, кто/что их написало.

Между тем, нет никаких новостей от Google и других, которые, кажется, были застигнуты врасплох ChatGPT и его предполагаемым альянсом с Microsoft. Мы также не знаем, как OpenAI сможет монетизировать ChatGPT и другие продукты, такие как Dall-E . И, что еще неизвестно, нам придется посмотреть, как новая версия ChatGPT, основанная на гораздо большей языковой модели под названием GPT 4, повлияет на эту область.

Захватывающее начало 2023 года и повод для новых заметок в понедельник.

[email protected]