Илон Маск анонсировал гуманоидного робота, предназначенного для выполнения повторяющихся и скучных задач, которые люди ненавидят выполнять. Маск предположил, что он может сбегать за вас в продуктовый магазин, но, по-видимому, он справится с любым количеством задач, связанных с ручным трудом.
Как и следовало ожидать, социальные сети наполнились отсылками к серии антиутопических научно-фантастических фильмов о роботах, где все идет ужасно неправильно.
Каким бы тревожным ни было будущее роботов в таких фильмах, как « Я, робот », « Терминатор » и других, это должно быть причиной для беспокойства лежащие в основе технологии настоящих гуманоидных роботов - и замысел, стоящий за ними.
Робот Маска разрабатывает компания Tesla. Это кажущийся отход от автомобильного бизнеса компании, если не считать, что Tesla не является типичным производителем автомобилей. Так называемый « Tesla Bot » - это концепция изящного, 125-фунтового (56-килограммового) человекоподобного робота, который будет включать в себя автомобильный искусственный интеллект и технологии автопилота Tesla для планирования маршрутов и следования по ним, навигации по трафику - в данном случае пешеходов - и избегайте препятствий.
Если отбросить антиутопический научно-фантастический подтекст, план имеет смысл, хотя и входит в бизнес-стратегию Маска. Искусственная среда создана людьми для людей. И, как утверждал Маск во время объявления Tesla Bot, успешные передовые технологии должны научиться ориентироваться в нем так же, как это делают люди.
Тем не менее, автомобили и роботы Tesla - это всего лишь видимые продукты гораздо более широкого плана, нацеленного на создание будущего, в котором передовые технологии освобождают людей от наших биологических корней путем смешения биологии и технологий . Как исследователь, изучающий этическое и социально ответственное развитие и использование новых технологий , я считаю, что этот план вызывает опасения, которые выходят за рамки спекулятивных научно-фантастических страхов перед сверхразумными роботами.
Человек с большими планами
Беспилотные автомобили , межпланетные ракеты и интерфейсы "мозг-машина" - это шаги к тому будущему, которое Маск представляет, в котором технологии станут спасителем человечества. В этом будущем энергия будет дешевой, изобильной и устойчивой ; люди будут работать в гармонии с умными машинами и даже сливаться с ними ; и люди станут межпланетным видом .
Это будущее, которое, судя по различным усилиям Маска, будет построено на наборе базовых взаимосвязанных технологий, которые включают датчики, исполнительные механизмы , инфраструктуры энергии и данных, системную интеграцию и существенный прогресс в области компьютерных мощностей. Вместе они составляют мощный набор инструментов для создания трансформирующих технологий.
Маск представляет, как люди, в конечном счете, выходят за рамки нашего эволюционного наследия с помощью технологий, выходящих за рамки человеческих или «сверхчеловеческих». Но прежде чем технология сможет стать сверхчеловеческой, она сначала должна быть человеком - или, по крайней мере, быть разработана для процветания в мире, созданном людьми.
Этот подход к инновациям, основанный на человеческом подходе к технологиям, лежит в основе технологий в автомобилях Tesla, включая широкое использование оптических камер. Когда они подключены к «мозгу» ИИ, они предназначены для того, чтобы помогать транспортным средствам автономно перемещаться по дорожным системам, которые, по словам Маска, « предназначены для биологических нейронных сетей с оптическими преобразователями » - другими словами, людей. По словам Маска, это небольшой шаг от созданных людьми «роботов на колесах» до человекоподобных роботов на ногах.
Проще сказать, чем сделать
Технология «полного самоуправления» Tesla, которая включает в себя сомнительно названный автопилот , является отправной точкой для разработчиков Tesla Bot. Как бы впечатляюще ни выглядела эта технология, она оказывается далеко не полностью надежной. Аварии и несчастные случаи, связанные с режимом автопилота Tesla - последний из которых связан с алгоритмами, изо всех сил пытающимися распознать припаркованные машины экстренной помощи - ставят под сомнение целесообразность столь быстрого выпуска технологии в дикую природу.
Такой послужной список не сулит ничего хорошего для человекоподобных роботов, использующих ту же технологию. Тем не менее, это не просто вопрос правильной технологии. Сбои автопилота Tesla усугубляются человеческим поведением . Например, некоторые водители Tesla относились к своим модернизированным автомобилям как к полностью автономным транспортным средствам и не уделяли должного внимания вождению. Может ли что-то подобное случиться с Tesla Bot?
"Сиротские риски" Tesla Bot
В своей работе над социально полезными технологическими инновациями меня особенно интересуют сиротские риски - риски, которые трудно измерить количественно и легко упустить из виду, но которые неизбежно приводят к сбиванию с толку новаторов. Мои коллеги и я работаем с предпринимателями и другими над решением этих проблем с помощью Risk Innovation Nexus , инициативы Института предпринимательства и инноваций им. Орина Эдсона Университета штата Аризона и Лаборатории глобального будущего .
Tesla Bot несет в себе целый портфель сиротских рисков. К ним относятся возможные угрозы конфиденциальности и автономности, поскольку бот собирает, делится и действует с потенциально конфиденциальной информацией; проблемы, связанные с тем, как люди могут думать о гуманоидных роботах и реагировать на них; потенциальные несоответствия между этическими или идеологическими взглядами - например, в борьбе с преступностью или в борьбе с гражданскими протестами; и более. Это проблемы, которые редко освещаются в обучении, которое получают инженеры, и тем не менее, игнорирование их может привести к катастрофе .
Хотя Tesla Bot может показаться безобидным - или даже немного шуткой - для того, чтобы он приносил пользу, а также был коммерчески успешным, его разработчикам, инвесторам, будущим потребителям и другим необходимо задавать сложные вопросы о том, как он может угрожать тому, что важно. их и как ориентироваться в этих угрозах.
Эти угрозы могут быть столь же конкретными, как люди, вносящие несанкционированные модификации, которые увеличивают производительность робота - например, заставляют его двигаться быстрее, чем предполагали его разработчики - без учета рисков, или столь же общими, как технология, используемая в вооружении новыми способами. Они также столь же тонки, как то, как робот-гуманоид может угрожать безопасности работы или как робот, включающий передовые системы наблюдения, может подорвать конфиденциальность.
Кроме того, существуют проблемы технологической предвзятости, которые преследовали ИИ в течение некоторого времени , особенно в тех случаях, когда они приводят к усвоенному поведению, которое оказывается в высшей степени дискриминационным. Например, алгоритмы ИИ привели к сексистским и расистским результатам.
Просто потому, что мы можем, должны ли мы?
Tesla Bot может показаться маленьким шагом к видению Маском сверхчеловеческих технологий, и его легко списать со счетов как нечто большее, чем высокомерное зрелище . Но лежащие в его основе дерзкие планы серьезны - и вызывают не менее серьезные вопросы.
Например, насколько ответственным является видение Маска? Кто может сказать, что он должен делать это только потому, что он может работать над созданием будущего своей мечты? Является ли будущее, которое Маск стремится обеспечить, лучшим для человечества или даже хорошим? И кто пострадает от последствий, если что-то пойдет не так?
Это более глубокие опасения, которые вызывает у меня Tesla Bot как человек, который изучает и пишет о будущем и о том, как наши действия влияют на него . Это не означает, что Tesla Bot - плохая идея или что Илон Маск не должен иметь возможность поиграть своими мышцами, строящими будущее. При правильном использовании это преобразующие идеи и технологии, которые могут открыть многообещающее будущее для миллиардов людей.
Но если потребители, инвесторы и другие люди будут ослеплены блеском новых технологий или пренебрегают шумихой и не видят более широкой картины, общество рискует передать будущее богатым новаторам, чье видение выходит за рамки их понимания. Если их видение будущего не согласуется с тем, к чему стремится большинство людей, или если они катастрофически ошибочны, они рискуют встать на пути построения справедливого и равноправного будущего.
Может быть, это непреходящий урок из антиутопических научно-фантастических фильмов о роботах будущего, который люди должны уносить по мере того, как Tesla Bot движется от идеи к реальности - не более очевидные проблемы создания буйных гуманоидных роботов, а гораздо более серьезная проблема решать, кто будет представлять будущее и участвовать в его построении.
Эта статья переиздана из The Conversation по лицензии Creative Commons. Вы можете найти оригинальную статью здесь .
Эндрю Мейнард - заместитель декана Колледжа глобального будущего Университета штата Аризона.
