Языковой припадок

Уродство GPT и моральная паника на самом деле связаны с силой языка.

Это не об ИИ; ИИ окружает нас повсюду, и мы взаимодействуем с лежащими в его основе технологиями (будь то нейронные сети, совместная фильтрация, линейная регрессия и т. д.) в течение дня, знаем мы об этом или нет.

Каждый раз, когда мы делаем снимок или садимся в машину, когда делаем покупки, когда проводим кредитную карту, мы пересекаемся с алгоритмическими манипуляциями посредством имитации человеческого интеллекта. Также известен как машинное обучение или искусственный интеллект.

Настоящая проблема заключается в том, что язык имеет вес, и пока у людей был способ сделать мысли слуховыми, мы боролись с присущей языку способностью изменять и манипулировать мыслями других людей. Каноническим примером является подготовка к геноциду в Руанде и роль языка, которую сыграли радиопередачи RTLM в подстрекательстве и катализе одной части населения против другой, а также события 6 января.

Язык опасен, и это также врожденно человеческое. Но сложность языка в том, что через него обычно манипулируют людьми. Наша способность различать истинные намерения не так уж велика с самого начала и только уменьшается с машинной абстракцией, тем более, когда сам говорящий является машиной.

Если людьми так легко манипулировать с помощью языка в форме, созданной человеком, наша способность предотвратить это не будет лучше, когда это будет машина, явно ищущая сигналы успеха манипулирования. Таким образом, наша восприимчивость к языковым манипуляциям — наша неосведомленность или забота о происхождении — не является осложнением для ChatGPT; он активно этим пользуется. Это нужно.

Проблема сводится к следующему: у языка есть сила, и ее сила увеличивается с абстракцией, в то время как наша способность различать намерения уменьшается. В какой-то момент язык становится настолько абстрактным и мощным, что происхождение авторства перестает иметь значение или быть различимым.

В нем столько потенциальной силы, что человечность автора не имеет значения.

И в этом заключается опасность.

Проблема не в машине: проблема в нас. Мы всегда были.