Amazon Alexa disse a uma menina de 10 anos para brincar com uma tomada de parede ao vivo

Você pode querer desconectar seu alto-falante Amazon Alexa antes que ele tenha uma influência perigosa em seus filhos.

Os assistentes digitais devem fornecer respostas e sugestões úteis, mas quando uma menina de 10 anos pediu um desafio, a Alexa da Amazon deu a ela uma resposta potencialmente letal.

Em vez de sugerir um jogo alegre ou atividade física, Alexa disse à menina para brincar com uma tomada elétrica, como sua mãe, Kristin Livdahl, descreveu em um tópico no Twitter.

“O desafio é simples”, disse Alexa. “Conecte um carregador de telefone a meio caminho de uma tomada e toque uma moeda nos pinos expostos.”

Essas instruções poderiam ter causado sérios danos se a criança de 10 anos não soubesse melhor ou se seus pais não estivessem por perto. Isso porque (como você deve ter aprendido quando criança), inserir metais que são bons condutores em uma tomada pode causar choques elétricos ou iniciar incêndios.

A Amazon respondeu ao tweet preocupado de Luvdahl um dia depois, pedindo que ela entrasse em contato diretamente para que pudesse investigar. A gigante do varejo finalmente corrigiu o problema, dizendo ao Indy100 :

“A confiança do cliente está no centro de tudo o que fazemos e o Alexa foi projetado para fornecer informações precisas, relevantes e úteis aos clientes”, disse um porta-voz da Amazon. “Assim que tomamos conhecimento desse erro, tomamos medidas rápidas para corrigi-lo.”

A Amazon não especificou por que seu assistente digital forneceu instruções com risco de vida a uma jovem, mas é importante saber que Alexa não obtém respostas do nada. O assistente é tão inteligente quanto a internet e, desta vez, sua resposta foi retirada de um post do ourcommunitynews.com descrevendo um desafio que circulou nas redes sociais cerca de um ano atrás.

O chamado “Desafio Outlet” desafiou adolescentes facilmente influenciados a inserir uma moeda em uma tomada de parede. Como costuma acontecer com esses desafios de internet com morte cerebral, pelo menos algumas pessoas seguiram as instruções perigosas. Chegou a um ponto em que a polícia de Massachusetts emitiu um alerta depois que dois adolescentes, que enfrentaram acusações de incêndio criminoso, queimaram tomadas em sua escola.

Algumas pessoas podem se perguntar por que alguém possuiria produtos Alexa em primeiro lugar, dado seu histórico de invasão de privacidade . Livdahl diz que recebeu um Echo de presente e pediu uma sugestão do dispositivo depois que o tempo ficou muito frio para continuar fazendo desafios físicos de um professor de educação física no YouTube.

Seguindo o conselho de um usuário amigável do Twitter, Livdahl diz que ativará o modo infantil em seu Echo para ter mais controle sobre o alto-falante satânico.

É preocupante que algo tão perigoso possa sair da boca de um produto lançado por uma das maiores empresas de tecnologia do mundo. Claramente, os algoritmos da Amazon não estão fazendo um trabalho bom o suficiente para examinar as informações que obtêm de várias fontes online. E esse não é o caso de outros assistentes pessoais.

Quando pedi um desafio ao Assistente do Google, ele apresentou exercícios de pensamento divertidos que parecem ser respostas personalizadas, em vez de algo extraído de um site aleatório. Aqui estão alguns dos desafios do Google.

Se as preocupações com a privacidade não fossem suficientes para persuadi-lo a não usar o assistente de voz da Amazon, talvez sua capacidade de disseminar informações prejudiciais e até mortais o faça desligar o Alexa.