Можно ли доверять инструментам искусственного интеллекта, таким как ChatGPT, как точному рассказчику реальности? Как коллега? Как рабочий инструмент?

Всем привет. Меня зовут Терренс Дойл, я старший редактор Codeword, и мне поручено руководить Эйденом, нашим стажером в редакции ИИ. Прежде чем вдаваться в какие-либо подробности о моем исследовании на данный момент или о программе в целом, я хочу прояснить, что я не являюсь разработчиком или инженером ИИ (то есть я не эксперт по ИИ). ). Я писатель и журналист, поэтому, естественно, я больше скептически отношусь к ИИ.

Я считаю, что мой скептицизм вполне обоснован, и я уверен, что многие из вас, читающих этот пост, его разделяют. Для этого эксперимента (который мы объясняем здесь ) мы используем большие языковые модели, такие как ChatGPT, и программное обеспечение для генеративного искусства, такое как Midjourney, для выполнения задач на уровне стажера. Анализ голоса и тона, исследование новостей и трендов, генерация текстур, базовые манипуляции с фотографиями и тому подобное. Но инструменты ИИ хороши ровно настолько, насколько хороши данные, которыми они питаются, а это значит, что они могут перенимать самые уродливые человеческие наклонности, такие как расизм (см. здесь , здесь , здесь , здесь , здесь , список, к сожалению, продолжается) и множество других предубеждений .

Вдобавок ко всему, многие приложения потребительского ИИ основаны на необработанных данных — ваших, моих, вашей тети и вашего дантиста! - что может вызвать беспокойство о конфиденциальности и безопасности. Кроме того, есть более глубокие этические проблемы , например, в какой степени ИИ следует доверять в вынесении суждений, которые ранее были зарезервированы для человеческого познания.

Я думаю, важно очень громко признать все эти хорошо задокументированные (и все еще существующие) предубеждения, опасения и этические затруднения и назвать их тем, чем они являются: свидетельством того, что инструментам ИИ, таким как ChatGPT и Midjounrey, нельзя доверять как точным. рассказчики реальности. По крайней мере, пока.

Возможно, для кого-то это все тяжеловато или даже немного элементарно! Но я думаю, что важно помнить об этом контексте, и мы постараемся сделать все возможное, пытаясь интегрировать большие языковые модели — в данном случае Эйдена — в наши редакционные рабочие процессы в течение следующих нескольких месяцев.

Так зачем мы проводим этот эксперимент?

Как редактор и бывший журналист-фрилансер, я глубоко обеспокоен (напуган?) творческими и безжалостно продуктивными возможностями больших языковых моделей, таких как ChatGPT. Сводить концы с концами в качестве профессионального редактора — или в любой творческой сфере — уже достаточно сложно, особенно для фрилансеров. Не нужно быть специалистом в области информатики, чтобы понять, что инструмент, способный за считанные секунды произвести литературную критику на уровне выпускников, может представлять еще одну угрозу для уже находящихся под угрозой средств к существованию писателей и редакторов из плоти и крови.

И эта угроза не существует в отдаленном будущем: она здесь и сейчас. Такие издатели, как CNET, уже используют большие языковые модели для создания контента блогов . Оказывается, эти сообщения в блогах изобилуют плагиатом (бейте тревогу этического затруднения!), но это все еще первые дни, и ChatGPT мира будут продолжать совершенствоваться в сокрытии исходного материала.

Так что, хотя я, по общему признанию, в ужасе от того, что ИИ берет еду с моего стола — вставьте Terminator.gif, только вместо того, чтобы вытащить дробовик из коробки с розами, он крадет мой хот-дог — я также почти уверен, что ИИ никуда не денется. или. Теперь задача состоит в том, чтобы выяснить все способы, которыми ИИ может быть полезен для креативщиков, но, что более важно, все способы, которыми ИИ не может заменить креативщиков.

Любые хорошие идеи на этот счет?

Работа, которую я выполняю, требует, чтобы я прочитывал множество длинных, объемных (а иногда и громоздких) сценариев — иногда мы говорим о десятках тысяч слов — чтобы отделить и преобразовать техническую информацию в аккуратные посты в блоге или даже в более аккуратные Темы твиттера. Я не говорю, что ChatGPT является заменой глубокому чтению, но меня впечатлила его способность анализировать такие объемные документы и давать краткие и связные выводы.

На данном этапе я бы не чувствовал себя комфортно, заменяя свое понимание прочитанного Эйденом, по крайней мере, не для работы с клиентами. Но в этом есть некоторая полезность для внутренних целей, и мы планируем воспользоваться способностью Эйдена анализировать и уточнять большие блоки текста, попросив их создавать еженедельные сводки, отражающие суть наших творческих сеансов мозгового штурма. Больше, чтобы прийти туда.

Мы также поэкспериментировали с голосом и тоном, хотя и довольно глупым способом: попросили Эйдена написать короткие рассказы в стиле известных авторов, таких как Эрнест Хемингуэй и Кормак Маккарти.

Я полагаю, что плагиат будет проклят, потому что до этого момента Эйден был ужасно неспособен воссоздать атмосферу « И восходит солнце» или «Кровавый меридиан ». (Я бы привел пример текста ниже, но в настоящее время ChatGPT испытывает высокий трафик, что означает, что он почти не работает и, следовательно, не может загружать прошлые чаты. Поверьте мне на слово: у Эйдена нет Пулитцеровской премии. будущее.)

Что дальше?

Больше возиться и больше философствовать. У меня есть некоторые идеи о технологическом детерминизме , Марксе и « калифорнийской идеологии », которые я планирую исследовать в своих следующих нескольких сообщениях в блоге. Я также расскажу о некоторых (и, надеюсь, более технических) процессах. Может, к тому времени мозг Эйдена загрузится.