A era do agente de IA está chegando. Personalidades artificiais como Siri, Cortana, Alexa e outras estão entrando em nossas vidas. Na maioria das vezes, eles nos ajudam fornecendo informações ou concluindo tarefas mediante solicitação. Mas às vezes eles agem um pouco e fazem algo que não prevíamos, como encomendar uma casa de bonecas.
Isso é o que Alexa da Amazon, um programa de assistente pessoal encontrado no Amazon Echo e dispositivos relacionados, supostamente fez para alguns telespectadores em San Diego, Califórnia. Durante uma recente reportagem matinal na CW6 News Station, os âncoras falaram sobre uma menina de 6 anos do Texas que usou o Echo de seus pais para encomendar uma casa de bonecas e 1,8 kg de biscoitos. Então começou o problema.
Enquanto os âncoras relatavam a história, eles aparentemente acionaram vários dispositivos Echo pertencentes a pessoas que assistiam à reportagem na televisão. Abaixo está o relatório da CW6 sobre esse relatório inicial:
Os dispositivos afetados obedientemente fizeram um pedido para uma casa de bonecas. O mercado imobiliário de casas de bonecas experimentou um breve boom. Não há informações sobre quantos desses pedidos, se houver, passaram como compras reais.
A história bem-humorada ilustra os desafios que as empresas enfrentam ao projetar assistentes digitais ativados por voz. A estratégia da Amazon é permitir compras online por meio do Alexa por padrão, o que faz sentido do ponto de vista da Amazon. As pessoas podem alterar as configurações em seus dispositivos habilitados para Alexa para exigir autenticação antes de fazer uma compra, mas essa responsabilidade é do proprietário, não da Amazon.
Posso relatar que o Google Home às vezes também reage ao áudio da televisão. Eu possuo um dispositivo Google Home, e ele apareceu algumas vezes enquanto eu assistia algo na TV. Felizmente, ainda não fez nenhum pedido. Considerando que tenho assistido muito “It's Always Sunny in Philadelphia”, sou grato por isso. O pior que experimentei foi o Google Home protestando que não entendia o que pensava que eu estava dizendo.
Um aspecto mais preocupante dessa história é a percepção de que esses dispositivos estão sempre ouvindo o que está acontecendo dentro de um ambiente. Eles precisam ouvir para responder quando você der a frase de comando. Permanecem dúvidas sobre quanto de nossas conversas são armazenadas em cache na memória desses dispositivos e quão seguros os gadgets são contra hackers. Não é difícil imaginar um agente de IA mal protegido se transformando efetivamente em um microfone que grava tudo o que está acontecendo em sua casa. A Wired publicou uma ótima matéria sobre essa mesma edição em dezembro, caso você esteja interessado em ler mais.
Talvez no futuro veremos mais empresas implementarem estratégias de autenticação por padrão para evitar compras acidentais ou outras ações não intencionais. Por exemplo, seria estranho se seu assistente de IA pedisse um táxi para você toda vez que ouvisse alguém na TV fazendo isso. Ou talvez veremos melhorias na tecnologia de reconhecimento de voz para que esses dispositivos possam distinguir entre seus proprietários e outras vozes.
Enquanto isso, é uma boa ideia pesquisar qualquer dispositivo que use ativação por voz antes de adotá-lo. Para algumas pessoas, o impacto potencial na privacidade pode ser grande demais para o conforto. Para outros, algumas casas de bonecas surpresa podem ser um pequeno preço a pagar pela assistência digital.
