Моральные границы ИИ

Одна из головоломок, с которыми мы будем сталкиваться все чаще и чаще, — это программирование искусственного интеллекта . С появлением чат-ботов с искусственным интеллектом следующего поколения, таких как ChatGPT, на ум приходит известная цитата из первого фильма «Парк Юрского периода»: «Ваши ученые были настолько озабочены тем, смогут ли они, что даже не задумались, стоит ли им это делать».

Программирование ботов уже является горячей темой во многих крупных организациях. Содержание службы поддержки клиентов часто является дорогостоящим делом, которое компании хотели бы автоматизировать как можно скорее.

Эти боты — сокращение от robots — «знают», что ответить, когда клиент вводит вопрос. Всего пару лет назад эти боты были не более чем страницей часто задаваемых вопросов (часто задаваемые вопросы) в формате простой беседы. В настоящее время многие из этих ботов изображают из себя настоящих людей, и иногда им это тоже сходит с рук.

Многие онлайн-чаты службы поддержки начинаются с бота и постепенно переходят в разговор с реальным человеком, когда разговор становится слишком сложным для бота. Часто бывает трудно сказать, где заканчивался бот и начинался человек в таких онлайн-разговорах (печатных). В ближайшем будущем эти боты будут становиться все более изощренными и более человечными в своих разговорах, как популярный сейчас ChatGPT .

Если вы программируете этих ботов и их диалоговые алгоритмы, в какой-то момент вы должны учитывать мораль. Если вы программируете ботов, связанных со здравоохранением, разговоры могут стать очень частными и деликатными. Если вы программируете ботов для приложения для знакомств, вы можете воспользоваться искренними чувствами других людей к тому, кого на самом деле не существует.

Где вы проводите линию? Конечно, это в первую очередь вопрос к владельцу бота, человеку, который имеет решающее слово в том, как будет действовать бот, но как насчет вашего собственного морального чувства? Будете ли вы просто программировать все, что они от вас попросят, или будете чертить линию на песке? А что, если вы тренируете команду, разрабатывающую таких ботов, и чувствуете, что черта пересекается, обращаете ли вы на это внимание или оставляете это на усмотрение команды и владельца бизнеса?

Скоро — а для некоторых, возможно, уже сейчас — нам понадобятся разговоры о морали на работе. Некоторые из этих разговоров, без сомнения, забредут в область философии, а не психологии, но стоит понять психологические истоки морали.

Большинство психологов считают мораль продуктом человеческой эволюции. Когда мы пытались выжить на равнинах Африки — среди множества смертоносных хищников — совместная работа людей окупилась. Если вы начнете жить вместе в социальной структуре, такой как племя, будет полезно, если вы сможете доверять остальным членам группы.

Мы видели в более ранней статье о референтных группах , как важно чувствовать себя принятым и уважаемым группой. Если вы разделяете одни и те же идеи о том, что правильно и что неправильно, это успокаивает ваш ум и позволяет членам группы ослабить бдительность и потратить время и энергию на достижение прогресса для всего племени.

Люди в те дни с более низкими стандартами того, что правильно и что неправильно, имели бы больше проблем с ассимиляцией в племя и, следовательно, имели бы гораздо худшие возможности для размножения.

С эволюционной точки зрения это привело бы к распространению меньшего количества асоциальных генов и большего количества «моральных» генов. Таким образом, со временем человеческое население постепенно вооружилось высоким чувством морали. Тот же принцип применим и ко многим другим видам, предпочитающим жить группами.

Есть два интересных моральных следствия текущих разработок ИИ. Одним из них является поставленный выше вопрос: что вы делаете, когда вам платят за создание аморального ИИ? Что, если вам поручили запрограммировать медицинского бота, который должен продавать дорогие лекарства, возможно, не принимая во внимание лучшее решение для пациента? Или что, если вас попросят создать бота для свиданий, имитирующего человека, целью которого будет заставить людей покупать дорогие подарки? Моральная ткань людей будет проверена здесь.

С другой стороны, возникает вопрос о моральных стандартах самого ИИ. Любой чат-бот с искусственным интеллектом не почувствует эволюционной необходимости вписываться в группу. Он мог действовать аморально без последствий — или, по крайней мере, не ощущая последствий. Но опять же, эволюция ИИ может идти так быстро, что ИИ будет автономно улучшать себя и преодолевать то, что называется технологической сингулярностью , и — кто знает — развивать собственную моральную систему. Моральные последствия для нас, людей, в этом случае очень неизвестны.

Если вам интересны подобные истории и многое другое, вы можете купить Essential Psychology for Modern Organizations на Amazon и в других книжных магазинах:https://www.amazon.com/Essential-Psychology-Modern-Organizations-scientifically/dp/B08NP12D77/