O sistema AI Cloud da Apple faz grandes promessas de privacidade, mas será que consegue mantê-las?

O novo sistema Apple Intelligence da Apple foi projetado para infundir IA generativa no núcleo do iOS. O sistema oferece aos usuários uma série de novos serviços , incluindo geração de texto e imagem, bem como recursos organizacionais e de agendamento. No entanto, embora o sistema forneça novas capacidades impressionantes, também traz complicações. Por um lado, o sistema de IA depende de uma enorme quantidade de dados dos utilizadores do iPhone, apresentando potenciais riscos de privacidade. Ao mesmo tempo, a necessidade substancial do sistema de IA de aumentar o poder computacional significa que a Apple terá de confiar cada vez mais no seu sistema de nuvem para satisfazer as solicitações dos utilizadores.

A Apple historicamente oferece aos clientes do iPhone privacidade incomparável; é uma grande parte da marca da empresa . Parte dessas garantias de privacidade tem sido a opção de escolher quando os dados móveis serão armazenados localmente e quando serão armazenados na nuvem. Embora uma maior dependência da nuvem possa soar alguns alarmes de privacidade, a Apple antecipou essas preocupações e criou um novo sistema surpreendente que chama de Private Cloud Compute, ou PCC . Este é realmente um sistema de segurança em nuvem projetado para manter os dados dos usuários longe de olhares indiscretos enquanto é usado para ajudar a atender solicitações relacionadas à IA.

No papel, o novo sistema de privacidade da Apple parece realmente impressionante. A empresa afirma ter criado “a arquitetura de segurança mais avançada já implantada para computação de IA em nuvem em escala”. Mas o que parece ser uma grande conquista no papel pode, no futuro, causar problemas mais amplos para a privacidade do usuário. E não está claro, pelo menos neste momento, se a Apple será capaz de cumprir as suas promessas grandiosas.

Como a computação em nuvem privada da Apple deve funcionar

Em muitos aspectos, os sistemas em nuvem são apenas bancos de dados gigantes. Se um malfeitor entrar nesse sistema/banco de dados, ele poderá examinar os dados contidos nele. No entanto, o Private Cloud Compute (PCC) da Apple traz uma série de salvaguardas exclusivas projetadas para impedir esse tipo de acesso.

A Apple afirma que implementou seu sistema de segurança tanto em nível de software quanto de hardware. A empresa criou servidores personalizados que abrigarão o novo sistema em nuvem, e esses servidores passam por um rigoroso processo de triagem durante a fabricação para garantir que sejam seguros. “Inventariamos e realizamos imagens de alta resolução dos componentes do nó PCC”, afirma a empresa. Os servidores também estão sendo equipados com mecanismos de segurança física, como um selo à prova de violação. Os dispositivos dos usuários do iPhone só podem se conectar a servidores certificados como parte do sistema protegido, e essas conexões são criptografadas de ponta a ponta, o que significa que os dados transmitidos são praticamente intocáveis ​​durante o trânsito.

Assim que os dados chegam aos servidores da Apple, existem mais proteções para garantir que permaneçam privados. A Apple diz que sua nuvem está aproveitando a computação sem estado para criar um sistema onde os dados do usuário não são retidos além do ponto em que são usados ​​para atender a uma solicitação de serviço de IA. Portanto, segundo a Apple, seus dados não terão uma vida útil significativa em seu sistema. Os dados viajarão do seu telefone para a nuvem, interagirão com os algoritmos de IA de alta octanagem da Apple – atendendo assim a qualquer pergunta ou solicitação aleatória que você tenha enviado (“desenhe-me uma imagem da Torre Eiffel em Marte”) – e então os dados (novamente, de acordo com a Apple) será excluído.

A Apple instituiu uma série de outras proteções de segurança e privacidade que podem ser lidas com mais detalhes no blog da empresa . Essas defesas, embora diversas, parecem todas projetadas para fazer uma coisa: evitar qualquer violação do novo sistema de nuvem da empresa.

Mas isso é realmente legítimo?

As empresas fazem grandes promessas de segurança cibernética o tempo todo e geralmente é impossível verificar se estão dizendo a verdade ou não. FTX, a troca de criptografia fracassada, certa vez afirmou que mantinha os ativos digitais dos usuários em servidores isolados. Investigações posteriores mostraram que isso era pura besteira . Mas a Apple é diferente, é claro. Para provar aos observadores externos que está realmente protegendo sua nuvem, a empresa afirma que lançará algo chamado “registro de transparência” que envolve imagens completas de software de produção (basicamente cópias do código usado pelo sistema). A empresa planeja publicar esses registros regularmente para que pesquisadores externos possam verificar se a nuvem está operando exatamente como a Apple diz.

O que as pessoas estão dizendo sobre o PCC

O novo sistema de privacidade da Apple polarizou notavelmente a comunidade tecnológica. Embora o esforço considerável e a transparência incomparável que caracterizam o projeto tenham impressionado muitos, alguns estão cautelosos quanto aos impactos mais amplos que ele poderá ter na privacidade móvel em geral. Mais notavelmente – também em voz alta – Elon Musk começou imediatamente a proclamar que a Apple havia traído seus clientes.

Simon Willison, desenvolvedor e programador web, disse ao Gizmodo que a “escala de ambição” do novo sistema em nuvem o impressionou.

“Eles estão abordando vários problemas extremamente difíceis no campo da engenharia de privacidade, todos de uma vez”, disse ele. “Acho que a parte mais impressionante é a auditabilidade – a parte em que eles publicarão imagens para revisão em um registro de transparência que os dispositivos podem usar para garantir que estejam se comunicando apenas com um servidor executando software que foi tornado público. A Apple emprega alguns dos melhores engenheiros de privacidade do setor, mas mesmo para os padrões deles, este é um trabalho formidável.”

Mas nem todo mundo está tão entusiasmado. Matthew Green, professor de criptografia da Universidade Johns Hopkins, expressou ceticismo em relação ao novo sistema da Apple e às promessas que o acompanham.

“Eu não adoro isso”, disse Green com um suspiro. “Minha grande preocupação é que isso centralizará muito mais dados de usuários em um data center, enquanto no momento a maior parte deles está nos telefones reais das pessoas.”

Historicamente, a Apple fez do armazenamento local de dados um pilar de seu design móvel, porque os sistemas em nuvem são conhecidos por suas deficiências de privacidade.

“Os servidores em nuvem não são seguros, então a Apple sempre teve essa abordagem”, disse Green. “O problema é que, com toda essa coisa de IA que está acontecendo, os chips internos da Apple não são poderosos o suficiente para fazer o que eles desejam. Então, eles precisam enviar os dados para servidores e estão tentando construir esses servidores superprotegidos que ninguém pode invadir.”

Ele entende por que a Apple está tomando essa decisão, mas não concorda necessariamente com ela, pois significa uma maior dependência da nuvem.

Green diz que a Apple também não deixou claro se explicará aos usuários quais dados permanecem locais e quais serão compartilhados com a nuvem. Isso significa que os usuários podem não saber quais dados estão sendo exportados de seus telefones. Ao mesmo tempo, a Apple não deixou claro se os usuários do iPhone poderão optar por não participar do novo sistema PCC. Se os usuários forem forçados a compartilhar uma certa porcentagem de seus dados com a nuvem da Apple, isso poderá sinalizar menos autonomia para o usuário médio, e não mais. O Gizmodo entrou em contato com a Apple para esclarecimentos sobre esses dois pontos e atualizará esta história se a empresa responder.

Para Green, o novo sistema PCC da Apple sinaliza uma mudança na indústria telefônica para uma postura mais dependente da nuvem. Isso poderia levar a um ambiente de privacidade menos seguro em geral, diz ele.

“Tenho sentimentos muito confusos sobre isso”, disse Green. “Acho que um número suficiente de empresas implantará IA muito sofisticada [a ponto] de nenhuma empresa querer ficar para trás. Acho que os consumidores provavelmente punirão as empresas que não possuem ótimos recursos de IA.”