Мы победим ботов

Feb 21 2023

Какие из этих реакций у вас были на ChatGPT? Пока я осторожно погружаюсь в эту новую технологию, лучшее, что я могу сделать, — это задать вопросы — их тонна. Здесь я частично документирую процесс исследования.

Сюрреалистическое изображение, созданное с помощью DALLE-E: изображает людей, беспокоящихся об ИИ, и попугая, демонстрирующего свои музыкальные, литературные и научные способности в классе. (DALL-E берет свое название от Сальвадора Дали и ВАЛЛ-И.)

Какие из этих реакций у вас были на ChatGPT?

Размахивая руками, крича: «ИИ здесь. ИИ здесь».
«Что вообще значит быть человеком? Какой смысл во всем, если машины могут делать то же, что и я?»
«Давайте использовать его!»
«Избегайте этого. На самом деле запретить. Или, может быть, контролировать его, по крайней мере».
«У меня есть чувство собственного достоинства. Я не использую его!»
«Это просто еще одна причуда. Это пройдет».

Пока я осторожно погружаюсь в эту новую технологию, лучшее, что я могу сделать, — это задать вопросы — их тонна. Здесь я частично документирую процесс исследования. Я учусь, когда пишу, и пишу, когда учусь.

Существует океан информации, идей, мыслей и мнений (в основном созданных людьми) по этой теме, и я буду рад, если вы направите меня к дополнительным вопросам или к некоторым ответам.

Вопрос 1: Какие навыки нам нужно развить, чтобы мы могли правильно использовать ИИ?

По словам Дури Лонга, исследователя искусственного интеллекта, ориентированного на человека,

«Грамотность в области ИИ — это набор компетенций, которые позволяют людям критически оценивать технологии ИИ, эффективно общаться и сотрудничать с ИИ, а также использовать ИИ в качестве инструмента в Интернете, дома и на рабочем месте».

Она делит грамотность ИИ на пять вопросов высокого уровня:

Что такое ИИ?
Что может ИИ?
Как работает ИИ?
Как люди воспринимают ИИ?

Вот что я изучаю для развития грамотности в области ИИ:

Чтобы максимально использовать технологии искусственного интеллекта, стоит изучить оперативную инженерию. На самом деле, я думаю, что быстрое распространение скоро станет чем-то особенным.

Подскажите Инжиниринг это искусство? и наука общения с инструментами на основе ИИ, чтобы заставить их делать то, что вы от них хотите. Подсказки могут варьироваться от базовых до расширенных. И нам будет полезно научиться продвинутым подсказкам.

Примером базовой подсказки является подсказка по ролям, которая включает в себя назначение роли инструменту ИИ, говоря что-то вроде: «Вы разработчик учебной программы». Или подсказка Zero Shot Chain of Thought , в которой вы просите ИИ думать шаг за шагом, добавляя это в конце вопроса: «Давайте думать шаг за шагом», и он объясняет нам свое мышление.

Быстрый инжиниринг — это область, в которой я был слеп еще месяц назад. Но развитие будет держать нас, людей, актуальными, поэтому вот ссылка на курс, который я прохожу:https://learnprompting.org/docs/intro

Скриншот курса по быстрому инжинирингу

Чтобы осознанно использовать ИИ, важно понимать, как он работает.

Знание того, как работает ИИ, позволяет нам понять его ограничения. Например, в некоторых разговорах об ИИ я часто слышал это: «У ИИ нет чувства правдивости» или «это просто машина для предсказания слов». ChatGPT не является интеллектуальным, и мы придаем значение его выходным данным, интерпретируя их. Знание всего этого говорит нам о том, что нужно смотреть на результат с осторожностью. Таким образом, изучение функционирования ИИ и присущих ему ограничений имеет решающее значение.

По словам доктора Лонга, ИИ — это обширная область, охватывающая когнитивные науки, машинное обучение и робототехнику. В настоящее время я ловлю этого зверя с конца вопросов, таких как: что такое обработка естественного языка (NLP), что такое модели большого языка (LLM), как они работают и под какой скалой я жил, когда все это было развивается вокруг меня?

Статья Стивена Вольфрама «Что делает ChatGPT… и почему это работает?» это всеобъемлющее чтение, которое начинается с самых основ. Я рекомендую читать эту статью с ручкой и бумагой в руках, чтобы делать заметки и рисовать схемы. При первом прочтении у меня возникли некоторые туманные идеи:https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

Осознание этических проблем, связанных с технологиями искусственного интеллекта, может стать ключевым шагом на пути к их грамотному использованию.

«Об опасностях стохастических попугаев: могут ли языковые модели быть слишком большими?» — это документ, в котором поднимаются этические вопросы, связанные с ИИ, включая предвзятость данных , справедливость и воздействие на окружающую среду . Хотя это не касается ChatGPT (он охватывает до GPT-3), высказанные опасения относятся к ChatGPT и другим инструментам искусственного интеллекта.

Вопрос 2: На каких данных обучаются эти языковые модели (LM) и откуда они берут эти данные? Каковы пределы этих данных?

На самом базовом уровне я понимаю, что ChatGPT использует корпус данных, называемый WebText, который состоит из сгенерированных человеком данных, доступных в Интернете. Кроме того, WebText представляет собой статическую базу данных — моментальный снимок данных, доступных в Интернете в определенное время. Стоит отметить, что данные обучения ChatGPT ограничены 2021 годом.

Скриншот ChatGPT

Например, я спросил ChatGPT о недавнем землетрясении в Турции и Сирии, и он имел в виду другое землетрясение, которое произошло в 2020 году. Нижеследующий общий ответ правдоподобен даже в сегодняшнем сценарии, который также показывает нам, как мы придаем смысл содержанию.

Скриншот ChatGPT

В «Об опасностях стохастических попугаев» авторы предупреждают о вреде статических данных в мире с меняющимися социальными взглядами. Они говорят, что последние социальные движения не будут отображаться в повествовании, генерируемом такими инструментами, как ChatGPT.

Вопрос 3: Какие предубеждения имеют языковые модели (LM)? И как они фильтруют контент?

Интернет не является представителем всего нашего общества. Он страдает от неравенства доступа, активного подавления голосов сайтами социальных сетей, языковых барьеров и т. д. Это может привести к систематической ошибке в наборах данных, используемых для обучения таких инструментов, как ChatGPT. А авторы статьи «Об опасностях стохастических попугаев: могут ли языковые модели быть слишком большими?» подтверждают, что наборы данных потенциально могут кодировать предубеждения против маргинализированных групп населения.

«Существует опасность того, что наборы данных могут чрезмерно отражать господствующие точки зрения и кодировать предубеждения, потенциально опасные для маргинализированных групп населения…»

Они говорят, что языковые модели не выполняют понимание естественного языка (NLU), а в основном только манипулируют языковой формой. Хотя на первый взгляд это кажется безобидным, это может быть злом, поскольку мы, люди, неизбежно примем синтетический текст за значимый.

Если данные подбрасывают нам предвзятый контент, кто знает, как мы его обработаем — какие контрольные точки мы установим?

Вопрос 4. Является ли контент, создаваемый ИИ-движком в результате моего запроса, моим по закону или он принадлежит ChatGPT? Что происходит с вопросами авторского права в мире, где каждый использует инструмент ИИ для написания чего-либо?

Вопрос 5: Наоборот, не следует ли нам придумать другой тип авторского права, с помощью которого у нас будет активная возможность предотвратить использование создаваемого нами контента наборами данных ИИ? И как такие правила повлияют на поле?

Хотя я вставил эти вопросы в ChatGPT, чтобы посмотреть, что там написано, у меня нет никаких ответов на эти вопросы. Я буду рад прочитать больше об этом, так что все ресурсы приветствуются.

Вопрос 6: Что? Оказывает ли запуск этих систем глубокого обучения значительное воздействие на окружающую среду?

Судя по всему, работа этих систем оказывает воздействие на окружающую среду, и оно значительное. Маргарет Митчелл* и другие исследователи в своей статье ссылаются на этот факт и говорят, что, хотя маргинализированные общества мало выигрывают от таких инноваций, они платят за окружающую среду высокими издержками.

Об опасностях стохастических попугаев: могут ли языковые модели быть слишком большими?: В то время как средний человек несет ответственность за примерно 5 т CO2-экв. в год, авторы Strubell et. др. обучила модель трансформатора (большую) с поиском нейронной архитектуры и подсчитала, что в результате процедуры обучения было выброшено 284 т CO2-экв.

Вопрос 7. К каким проблемам справедливости приводят эти инструменты на основе ИИ?

Такие инструменты, как ChatGPT, уже защищены платным доступом. Существующий разрыв из-за отсутствия грамотности, неравного доступа к компьютерным устройствам/Интернету и цифровой грамотности будет только усугубляться этими технологиями.

Вопрос 8: Как инструменты ИИ повлияют на создание и анализ обучающих данных? Какой импульс получат качественные исследования данных?

Будет интересно понаблюдать за пространством изучения аналитики, чтобы увидеть, что получится.

На личном уровне, когда мы проводим традиционные МООК на моем рабочем месте, мы систематизируем качественные данные и вручную классифицируем ответы для анализа данных. Мы могли бы просто предоставить коды и примеры для ChatGPT и получить классифицированные данные. Я даже не задумываюсь, как эти инструменты могут изменить подобные процессы и, возможно, изменить даже вопросы, которые мы задаем.

Вопрос 9. Переходя к теме, которая беспокоит большинство разработчиков учебных программ, преподавателей и университетов, — как ChatGPT повлияет на образование?

Хотя это широкий вопрос с огромными возможностями, который требует тщательного анализа, некоторые более узкие вопросы в первую очередь:

Как ChatGPT повлияет на оценку?
Что делать, если ученики «списывают»? Должны ли мы использовать программное обеспечение для обнаружения ИИ, чтобы ученики не могли его использовать?
Как мы можем использовать инструменты на основе ИИ для более персонализированной помощи в обучении?
Избавят ли инструменты на основе ИИ от необходимости создавать курсы с нуля?
Устранит ли использование инструментов на основе ИИ необходимость критически мыслить?

Оценочный вопрос

Я уверен, что появится много стратегий для работы с оценками. Вот тот, который мне особенно понравился. Доктор Аниша Бахариа говорит, что для того, чтобы придумать подходящие подсказки для создания нужного контента, нужны знания, навыки рассуждения и навыки подсказок. Таким образом, попросить учащихся поделиться своей историей подсказок ИИ — это один из подходов. Она также поделилась этим инструментом для отслеживания, сохранения и обмена историей подсказок ИИ:https://sharegpt.com/

Я не знаю, какими правами откажутся студенты, согласившись использовать эти инструменты, связанные с ИИ. Так что, как и в случае с любыми другими техническими инструментами, я думаю, что многие преподаватели будут изучать этот вопрос, когда они начнут внедрять эти технологии в свои обычные классы.

Вопрос об обмане

На нескольких конференциях я слышал, как д-р Бахариа высказал два очень интересных момента по этому вопросу. Она говорит, что списывание будет означать не то, что учащиеся используют ИИ для написания ответов, а то, что они используют заранее созданные подсказки для генерирования ответов. Это взгляд на читерство через призму ИИ.

Еще один момент, на который она обращает внимание, заключается в том, что вы, вероятно, не сможете победить технологию с помощью технологии. Учителя говорят об использовании инструментов для идентификации текста, созданного ИИ. Но студенты уже используют инструменты для перефразирования текста, созданного ИИ, чтобы превзойти программное обеспечение для обнаружения ИИ. Так что эта игра в кошки-мышки добром не кончится.

Идея состоит в том, чтобы верить в учеников, учить с внутренней мотивацией и использовать технологии искусственного интеллекта в обучении.

Вопрос персонализации

Я думаю, что инструменты искусственного интеллекта станут нашим основным руководством по поддержке на рабочем месте. Microsoft пытается внедрить ИИ в Teams. Вероятно, в процессе работы у нас будет ИИ, который будет подсказывать и направлять нас (хотя вопросы безопасности данных/конфиденциальности/авторских прав могут быть высокими при использовании технологии на предприятии в ее нынешнем виде).

Но вопрос в том, изменит ли ИИ онлайн-обучение настолько, чтобы отдалить нас от традиционных, ориентированных на учителя моделей, или же он станет подспорьем в традиционной модели обучения?

Например, изучая дискуссионные форумы в традиционном пространстве МООК, я увидел, что они разрабатываются таким образом, что преподавателям не нужно отвечать на чаты, происходящие на дискуссионных форумах. Учащиеся взаимодействуют друг с другом и получают «идеальные» ответы с помощью предварительно записанных видео, заранее написанных решений или в форме общей обратной связи. В традиционных, линейных МООК, позволит ли ИИ расширить охват?

Вопрос об избыточности

ИИ, безусловно, поможет процессу разработки онлайн-курсов — возможно, он не сделает дизайнеров учебных курсов излишними, но высвободит наше время для создания более критического дизайна, ориентированного на учащихся, поскольку ИИ будет помогать созданию контента. Я не уверен, но это мое предположение, во всяком случае.

Вот умопомрачительный пример от доктора Аниши Бахариа, которая попросила ChatGPT сыграть роль эксперта в предметной области, дизайнера обучения и программиста (использующего Liascript) для создания курса, включая его навигацию, функцию поиска и интерактивные действия. И это вывод:https://liascript.github.io/course/?https://raw.githubusercontent.com/aneesha/chatgpt_grammar_course/main/README.md

Вопрос о критическом мышлении

Поисковые системы предоставили нам нечто беспрецедентное в истории человеческого существования. Они дали нам возможность искать источники данных, просеивать их, определять источники, которые выглядят надежными, связываться с коллегами в этой области со всего мира, слушать различные мыслительные процессы, а затем усваивать новую информацию или формировать новые знания на основе тема. На первый взгляд кажется, что инструменты на основе ИИ будут подавать нам приготовленную пищу и устранят необходимость в этом процессе исследования. Хотя в какой-то степени это может быть правдой, я не думаю, что инструменты зайдут слишком далеко без участия человека. Чтобы правильно использовать эту технологию, нам нужно исследовать, учиться, исследовать, а затем взаимодействовать с технологией.

Случайный поиск, исследование и общение со сверстниками — исследования, ведущие к тому, что Дэниел Пинк называет «столкновением идей», необходимы для творческого результата. Итак, я думаю, нам придется использовать инструменты на основе ИИ таким образом, чтобы мы не ограничивали себя образами мышления или структурированием идей, которые эти инструменты извергают. Это будет активная практика, которую нам нужно осознанно продолжать.

Вопрос 10: Chat GPT, DALL-E — это два инструмента, которые я исследовал до сих пор. Какие другие доступные инструменты ИИ мы можем начать изучать?

Следующие шаги

Люди сделали график эффекта Даннинга Крюгера для ChatGPT (инструменты на основе ИИ), и я думаю, что я случайно просмотрел его в этом посте.

Изучение способов использования ChatGPT для обучения дизайну будет следующим пунктом в моем списке. Конечно, для этого мне также нужно освоить более продвинутые навыки подсказок, о которых я, возможно, расскажу в другом посте.

В общем, мы по-прежнему будем хозяевами машин, пока будем продолжать прилагать усилия и продолжать работать вместе. Поэтому, пожалуйста, помогите мне исправить эти вопросы, найти ответы на них и поделиться интересными ресурсами, чтобы разработать дополнительные вопросы по теме. Вместе мы победим ботов!