Elon Musk a annoncé un robot humanoïde conçu pour aider avec ces tâches répétitives et ennuyeuses que les gens détestent faire. Musk a suggéré qu'il pourrait aller à l'épicerie pour vous, mais vraisemblablement, il s'occuperait de n'importe quel nombre de tâches impliquant du travail manuel.
Comme on pouvait s'y attendre, les médias sociaux regorgent de références à une série de films de science-fiction dystopiques sur les robots où tout va horriblement mal.
Aussi troublant que soient l'avenir des robots dans des films comme " I, Robot ", " The Terminator " et d'autres, ce sont les technologies sous-jacentes des vrais robots humanoïdes - et l'intention derrière eux - qui devraient être préoccupantes.
Le robot de Musk est développé par Tesla. C'est un départ apparent de l'activité de construction automobile de l'entreprise, jusqu'à ce que vous considériez que Tesla n'est pas un constructeur automobile typique. Le soi-disant " Tesla Bot " est un concept pour un robot élégant de 125 livres (56 kilogrammes) semblable à un humain qui intégrera l'intelligence artificielle automobile et les technologies de pilote automatique de Tesla pour planifier et suivre des itinéraires, naviguer dans le trafic - dans ce cas, les piétons - et éviter les obstacles.
Mis à part les connotations de science-fiction dystopiques, le plan a du sens, bien que dans le cadre de la stratégie commerciale de Musk. L'environnement bâti est fait par les humains, pour les humains. Et comme Musk l'a fait valoir lors de l'annonce de Tesla Bot, les technologies avancées réussies vont devoir apprendre à s'y retrouver de la même manière que les gens le font.
Pourtant, les voitures et les robots de Tesla ne sont que les produits visibles d'un plan beaucoup plus large visant à créer un avenir où les technologies de pointe libèrent les humains de nos racines biologiques en mélangeant biologie et technologie . En tant que chercheur qui étudie le développement et l'utilisation éthiques et socialement responsables des technologies émergentes , je trouve que ce plan soulève des préoccupations qui transcendent les craintes spéculatives de science-fiction des robots super intelligents.
Un homme aux grands projets
Les voitures autonomes , les fusées interplanétaires et les interfaces cerveau-machine sont des étapes vers le futur qu'imagine Musk où la technologie est le sauveur de l'humanité. Dans ce futur, l' énergie sera bon marché, abondante et durable ; les gens travailleront en harmonie avec les machines intelligentes et fusionneront même avec elles ; et les humains deviendront une espèce interplanétaire .
C'est un avenir qui, à en juger par les divers efforts de Musk, sera construit sur un ensemble de technologies interconnectées sous-jacentes qui incluent des capteurs, des actionneurs , des infrastructures énergétiques et de données, l'intégration de systèmes et des avancées substantielles en matière de puissance informatique. Ensemble, ils constituent une formidable boîte à outils pour créer des technologies transformatrices.
Musk imagine que les humains transcendent finalement notre héritage évolutif grâce à des technologies qui sont au-delà de l'humain, ou "super" humaines. Mais avant que la technologie ne puisse devenir surhumaine, elle doit d'abord être humaine - ou au moins être conçue pour prospérer dans un monde conçu par l'homme.
Cette approche de l'innovation qui rend la technologie plus humaine est ce qui sous-tend les technologies des voitures Tesla, y compris l'utilisation intensive de caméras optiques. Ceux-ci, lorsqu'ils sont connectés à un "cerveau" d'IA, sont destinés à aider les véhicules à naviguer de manière autonome dans les systèmes routiers qui sont, selon les mots de Musk, " conçus pour les réseaux neuronaux biologiques avec des imageurs optiques " - en d'autres termes, les personnes. Dans le récit de Musk, il n'y a qu'un petit pas entre les "robots sur roues" inspirés par l'homme et les robots sur pattes ressemblant à des humains.
Plus facile à dire qu'à faire
La technologie de « conduite entièrement autonome » de Tesla, qui comprend le pilote automatique au nom douteux , est un point de départ pour les développeurs du Tesla Bot. Aussi impressionnante que soit cette technologie, elle s'avère moins que totalement fiable. Les accidents et les décès associés au mode Pilote automatique de Tesla – le dernier en date ayant à voir avec les algorithmes qui luttent pour reconnaître les véhicules d'urgence garés – remettent en question la sagesse de relâcher la technologie dans la nature si tôt.
Ce bilan ne présage rien de bon pour les robots humanoïdes qui reposent sur la même technologie. Pourtant, il ne s'agit pas seulement d'obtenir la bonne technologie. Les problèmes du pilote automatique de Tesla sont exacerbés par le comportement humain . Par exemple, certains conducteurs de Tesla ont traité leurs voitures à technologie améliorée comme s'il s'agissait de véhicules entièrement autonomes et n'ont pas prêté suffisamment d'attention à la conduite. Quelque chose de similaire pourrait-il se produire avec le Tesla Bot ?
Les « risques orphelins » de Tesla Bot
Dans mon travail sur l'innovation technologique socialement bénéfique, je m'intéresse particulièrement aux risques orphelins – des risques difficiles à quantifier et faciles à ignorer et qui finissent inévitablement par faire trébucher les innovateurs. Mes collègues et moi travaillons avec des entrepreneurs et d'autres pour surmonter ces types de défis grâce au Risk Innovation Nexus , une initiative de l' Institut d'entrepreneuriat et d'innovation Orin Edson de l'Université d'État de l'Arizona et du Global Futures Laboratory .
Le Tesla Bot est livré avec tout un portefeuille de risques orphelins. Ceux-ci incluent des menaces possibles à la vie privée et à l'autonomie, car le bot collecte, partage et agit sur des informations potentiellement sensibles ; les défis associés à la façon dont les gens sont susceptibles de penser et de réagir aux robots humanoïdes ; les décalages potentiels entre les perspectives éthiques ou idéologiques - par exemple, dans le contrôle de la criminalité ou le maintien de l'ordre lors de manifestations civiles ; et plus. Ce sont des défis qui sont rarement abordés dans la formation que reçoivent les ingénieurs, et pourtant, les ignorer peut mener au désastre .
Alors que le Tesla Bot peut sembler bénin - ou même un peu une blague - s'il doit être bénéfique ainsi qu'un succès commercial, ses développeurs, investisseurs, futurs consommateurs et autres doivent se poser des questions difficiles sur la façon dont il pourrait menacer ce qui est important pour eux et comment gérer ces menaces.
Ces menaces peuvent être aussi spécifiques que des personnes effectuant des modifications non autorisées qui augmentent les performances du robot - le faisant se déplacer plus rapidement que ses concepteurs ne l'avaient prévu, par exemple - sans penser aux risques, ou aussi générales que la technologie étant militarisée de manière innovante. Ils sont également aussi subtils que la façon dont un robot humanoïde pourrait menacer la sécurité de l'emploi, ou comment un robot qui comprend des systèmes de surveillance avancés pourrait porter atteinte à la vie privée.
Ensuite, il y a les défis du biais technologique qui affligent l'IA depuis un certain temps , en particulier lorsqu'il conduit à des comportements appris qui s'avèrent hautement discriminatoires. Par exemple, les algorithmes d'IA ont produit des résultats sexistes et racistes .
Juste parce que nous pouvons, devrions-nous?
Le Tesla Bot peut sembler être un petit pas vers la vision de Musk des technologies surhumaines, et il est facile de considérer qu'il s'agit d'un peu plus que d'une mise en scène orgueilleuse . Mais les plans audacieux qui le sous-tendent sont sérieux – et ils soulèvent des questions tout aussi sérieuses.
Par exemple, dans quelle mesure la vision de Musk est-elle responsable ? Juste parce qu'il peut travailler à créer l'avenir de ses rêves, qui peut dire qu'il devrait le faire ? L'avenir que Musk s'efforce d'apporter est-il le meilleur pour l'humanité, ou même un bon ? Et qui subira les conséquences si les choses tournent mal ?
Telles sont les préoccupations plus profondes que le Tesla Bot soulève pour moi en tant que personne qui étudie et écrit sur l'avenir et sur l'impact de nos actions sur celui-ci . Cela ne veut pas dire que Tesla Bot n'est pas une bonne idée, ou qu'Elon Musk ne devrait pas être capable de fléchir ses muscles pour construire l'avenir. Utilisées à bon escient, ce sont des idées et des technologies transformatrices qui pourraient ouvrir un avenir plein de promesses pour des milliards de personnes.
Mais si les consommateurs, les investisseurs et les autres sont éblouis par le faste des nouvelles technologies ou méprisent le battage médiatique et ne voient pas la situation dans son ensemble, la société risque de confier l'avenir à de riches innovateurs dont la vision dépasse leur compréhension. Si leurs visions de l'avenir ne correspondent pas à ce à quoi la plupart des gens aspirent, ou si elles présentent des défauts catastrophiques, elles risquent de faire obstacle à la construction d'un avenir juste et équitable.
C'est peut-être la leçon permanente des futurs films de science-fiction dystopiques que les gens devraient retenir alors que le Tesla Bot passe de l'idée à la réalité - pas les préoccupations les plus évidentes de créer des robots humanoïdes qui se déchaînent, mais le défi beaucoup plus grand de décider qui peut imaginer l'avenir et participer à sa construction.
Cet article est republié à partir de The Conversation sous une licence Creative Commons. Vous pouvez trouver l' article original ici .
Andrew Maynard est le doyen associé du College of Global Futures de l'Arizona State University.
