La era del agente de IA está sobre nosotros. Personalidades artificiales como Siri, Cortana, Alexa y otras están encontrando su camino en nuestras vidas. La mayoría de las veces, nos ayudan brindándonos información o completando tareas cuando lo solicitamos. Pero a veces actúan un poco y hacen algo que no anticipamos, como pedir una casa de muñecas.
Eso es lo que Alexa de Amazon, un programa de asistente personal que se encuentra en Amazon Echo y dispositivos relacionados, supuestamente hizo para algunos espectadores de televisión en San Diego, California. Durante un informe matutino reciente en la estación de noticias CW6, los presentadores hablaron sobre una niña de Texas de 6 años que usó el Echo de sus padres para pedir una casa de muñecas y 4 libras (1.8 kilogramos) de galletas. Entonces comenzó el problema.
Si bien los presentadores informaron sobre la historia, aparentemente activaron varios dispositivos Echo propiedad de personas que veían el informe en la televisión. A continuación se muestra el informe de CW6 sobre ese informe inicial:
Los dispositivos afectados hicieron diligentemente un pedido para una casa de muñecas. El mercado inmobiliario de casas de muñecas experimentó un breve auge. No se sabe cuántos, si alguno, de esos pedidos se procesaron como compras reales.
La divertida historia ilustra los desafíos que enfrentan las empresas al diseñar asistentes digitales activados por voz. La estrategia de Amazon es permitir las compras en línea a través de Alexa de forma predeterminada, lo que tiene sentido desde la perspectiva de Amazon. Las personas pueden cambiar la configuración en sus dispositivos habilitados para Alexa para requerir autenticación antes de realizar una compra, pero esa responsabilidad recae en el propietario, no en Amazon.
Puedo informar que Google Home a veces también reacciona al audio de la televisión. Tengo un dispositivo Google Home y se activó varias veces mientras miraba algo en la televisión. Afortunadamente, aún no ha realizado ningún pedido. Teniendo en cuenta que he estado viendo mucho "It's Always Sunny in Philadelphia", estoy agradecido por eso. Lo peor que he experimentado es Google Home protestando porque no entendía lo que pensaba que estaba diciendo.
Un aspecto más aleccionador de esta historia es la comprensión de que estos dispositivos siempre están escuchando lo que sucede dentro de un entorno. Tienen que escuchar para responder cuando les das la frase de comando. Quedan preguntas sobre cuántas de nuestras conversaciones se almacenan en caché en la memoria de estos dispositivos y qué tan seguros son los dispositivos frente a los piratas informáticos. No es difícil imaginar a un agente de inteligencia artificial mal asegurado transformándose efectivamente en un micrófono que registra todo lo que sucede en su casa. Wired publicó una gran historia sobre este mismo tema en diciembre, en caso de que esté interesado en leer más.
Quizás en el futuro veremos que más empresas implementan estrategias de autenticación de forma predeterminada para evitar compras accidentales u otras acciones no deseadas. Por ejemplo, sería incómodo si su asistente de inteligencia artificial le pidiera un taxi cada vez que escuche a alguien en la televisión hacerlo. O tal vez veamos mejoras en la tecnología de reconocimiento de voz para que estos dispositivos puedan distinguir entre sus propietarios y otras voces.
Mientras tanto, es una buena idea investigar cualquier dispositivo que utilice activación por voz antes de adoptarlo. Para algunas personas, el impacto potencial en la privacidad puede ser demasiado grande para su comodidad. Para otros, algunas casas de muñecas sorpresa pueden ser un pequeño precio a pagar por la asistencia digital.
