System Apple AI Cloud składa wielkie obietnice dotyczące prywatności, ale czy może je dotrzymać?

Nowy system Apple Intelligence firmy Apple został zaprojektowany tak, aby wprowadzać generatywną sztuczną inteligencję do rdzenia systemu iOS. System oferuje użytkownikom szereg nowych usług , w tym generowanie tekstu i obrazów, a także funkcje organizacyjne i planowania. Chociaż system zapewnia imponujące nowe możliwości, niesie ze sobą także komplikacje. Po pierwsze, system sztucznej inteligencji opiera się na ogromnej ilości danych użytkowników iPhone'a, co stwarza potencjalne ryzyko dla prywatności. Jednocześnie znaczne zapotrzebowanie systemu sztucznej inteligencji na zwiększoną moc obliczeniową oznacza, że ​​Apple będzie musiał w coraz większym stopniu polegać na swoim systemie w chmurze, aby spełniać żądania użytkowników.

Firma Apple od dawna oferowała klientom iPhone'a niezrównaną prywatność; to duża część marki firmy . Częścią tych gwarancji prywatności była możliwość wyboru, kiedy dane mobilne mają być przechowywane lokalnie, a kiedy w chmurze. Chociaż zwiększone uzależnienie od chmury może wywołać alarm dotyczący prywatności, firma Apple przewidziała te obawy i stworzyła zaskakujący nowy system, który nazywa Private Cloud Compute (PCC) . To tak naprawdę system bezpieczeństwa w chmurze, zaprojektowany tak, aby chronić dane użytkowników przed wzrokiem ciekawskich, podczas gdy są one wykorzystywane do realizacji żądań związanych ze sztuczną inteligencją.

Na papierze nowy system prywatności Apple brzmi naprawdę imponująco. Firma twierdzi, że stworzyła „najbardziej zaawansowaną architekturę zabezpieczeń, jaką kiedykolwiek wdrożono do obliczeń AI w chmurze na dużą skalę”. Ale to, co na papierze wygląda na ogromne osiągnięcie, może w przyszłości spowodować szersze problemy z prywatnością użytkowników. I nie jest jasne, przynajmniej na tym etapie, czy Apple będzie w stanie spełnić swoje wzniosłe obietnice.

Jak ma działać prywatna chmura obliczeniowa Apple

Pod wieloma względami systemy chmurowe to po prostu gigantyczne bazy danych. Jeśli do tego systemu/bazy danych dostanie się zły aktor, może przejrzeć zawarte w nim dane. Jednak usługa Private Cloud Compute (PCC) firmy Apple zapewnia szereg unikalnych zabezpieczeń, które mają zapobiegać tego rodzaju dostępowi.

Apple twierdzi, że wdrożyło swój system bezpieczeństwa zarówno na poziomie oprogramowania, jak i sprzętu. Firma stworzyła niestandardowe serwery, na których będzie działać nowy system chmurowy, a serwery te przechodzą rygorystyczny proces kontroli podczas produkcji, aby zapewnić ich bezpieczeństwo. „Inwentaryzujemy i wykonujemy obrazowanie w wysokiej rozdzielczości elementów węzła PCC” – twierdzi firma. Serwery są również wyposażane w fizyczne mechanizmy bezpieczeństwa, takie jak plomba zabezpieczająca przed manipulacją. Urządzenia użytkowników iPhone'a mogą łączyć się wyłącznie z serwerami, które zostały certyfikowane jako część chronionego systemu, a połączenia te są całkowicie szyfrowane, co oznacza, że ​​przesyłane dane są praktycznie nietykalne podczas przesyłania.

Gdy dane dotrą na serwery Apple, istnieje więcej zabezpieczeń zapewniających ich prywatność. Apple twierdzi, że jego chmura wykorzystuje przetwarzanie bezstanowe do stworzenia systemu, w którym dane użytkownika nie są przechowywane dłużej niż do momentu, w którym są wykorzystywane do realizacji żądania usługi AI. Zatem według Apple Twoje dane nie będą miały znacznej żywotności w systemie. Dane będą przesyłane z Twojego telefonu do chmury, będą wchodzić w interakcję z wysokooktanowymi algorytmami AI firmy Apple, spełniając w ten sposób dowolne losowe pytanie lub prośbę, którą przesłałeś („narysuj mi obraz Wieży Eiffla na Marsie”), a następnie dane (ponownie według Apple) zostaną usunięte.

Apple wprowadziło szereg innych zabezpieczeń i zabezpieczeń prywatności, o których można przeczytać bardziej szczegółowo na firmowym blogu . Te zabezpieczenia, choć różnorodne, wydają się mieć jeden cel: zapobiegać jakimkolwiek naruszeniom nowego systemu chmurowego firmy.

Ale czy to naprawdę jest legalne?

Firmy cały czas składają wielkie obietnice dotyczące cyberbezpieczeństwa i zazwyczaj nie da się zweryfikować, czy mówią prawdę, czy nie. FTX, nieudana giełda kryptowalut, twierdziła kiedyś, że przechowuje zasoby cyfrowe użytkowników na serwerach izolowanych. Późniejsze dochodzenie wykazało, że była to czysta bzdura . Ale Apple jest oczywiście inne. Aby udowodnić zewnętrznym obserwatorom, że naprawdę zabezpiecza swoją chmurę, firma twierdzi, że uruchomi coś, co nazywa się „dziennikiem przejrzystości”, który będzie zawierał pełne obrazy oprogramowania produkcyjnego (w zasadzie kopie kodu używanego przez system). Planuje regularnie publikować te dzienniki, aby zewnętrzni badacze mogli zweryfikować, czy chmura działa tak, jak twierdzi Apple.

Co ludzie mówią o PCC

Nowy system prywatności Apple wyraźnie spolaryzował społeczność technologiczną. Choć znaczny wysiłek i niezrównana przejrzystość charakteryzujące projekt zrobiły na wielu wrażenie, niektórzy obawiają się szerszego wpływu, jaki może on mieć na ogólną prywatność w urządzeniach mobilnych. Co najważniejsze – czyli głośno – Elon Musk natychmiast zaczął ogłaszać, że Apple zdradził swoich klientów.

Simon Willison, programista i programista stron internetowych, powiedział Gizmodo, że „skala ambicji” nowego systemu chmurowego zrobiła na nim wrażenie.

„Zajmują się jednocześnie wieloma niezwykle trudnymi problemami w dziedzinie inżynierii prywatności” – powiedział. „Najbardziej imponującą częścią, moim zdaniem, jest możliwość kontroli — fragment, w którym publikują obrazy do sprawdzenia w dzienniku przejrzystości, którego urządzenia mogą używać, aby mieć pewność, że komunikują się wyłącznie z serwerem, na którym działa oprogramowanie, które zostało upublicznione. Apple zatrudnia jednych z najlepszych inżynierów zajmujących się ochroną prywatności w branży, ale nawet jak na ich standardy jest to ogromna praca”.

Ale nie wszyscy są tak zachwyceni. Matthew Green, profesor kryptografii na Uniwersytecie Johnsa Hopkinsa, wyraził sceptycyzm co do nowego systemu Apple i związanych z nim obietnic.

„Nie podoba mi się to” – stwierdził Green z westchnieniem. „Moją największą obawą jest to, że znacznie więcej danych użytkowników zostanie scentralizowanych w centrum danych, podczas gdy obecnie większość z nich znajduje się na rzeczywistych telefonach użytkowników”.

Historycznie rzecz biorąc, Apple traktowało lokalne przechowywanie danych jako podstawę swoich rozwiązań mobilnych, ponieważ systemy chmurowe były znane ze swoich braków w zakresie prywatności.

„Serwery w chmurze nie są bezpieczne, dlatego Apple zawsze stosował takie podejście” – powiedział Green. „Problem polega na tym, że przy całej tej sztucznej inteligencji wewnętrzne chipy Apple nie są wystarczająco mocne, aby robić to, czego od nich oczekuje. Muszą więc wysłać dane na serwery i próbują zbudować te super chronione serwery, do których nikt nie będzie mógł się włamać”.

Rozumie, dlaczego Apple decyduje się na taki ruch, ale niekoniecznie się z nim zgadza, ponieważ oznacza to większe uzależnienie od chmury.

Green twierdzi, że Apple nie wyjaśniło również, czy będzie wyjaśniać użytkownikom, jakie dane pozostaną lokalne, a jakie będą udostępniane w chmurze. Oznacza to, że użytkownicy mogą nie wiedzieć, jakie dane są eksportowane z ich telefonów. Jednocześnie Apple nie wyjaśniło, czy użytkownicy iPhone'ów będą mogli zrezygnować z nowego systemu PCC. Jeśli użytkownicy będą zmuszeni udostępniać pewien procent swoich danych w chmurze Apple, może to oznaczać mniejszą, a nie większą autonomię przeciętnego użytkownika. Gizmodo skontaktował się z Apple w celu wyjaśnienia obu tych punktów i zaktualizuje tę historię, jeśli firma odpowie.

Zdaniem Greena nowy system PCC firmy Apple sygnalizuje przejście w branży telefonicznej w kierunku bardziej opartego na chmurze. Może to ogólnie prowadzić do mniej bezpiecznego środowiska prywatności – twierdzi.

„Mam co do tego bardzo mieszane uczucia” – powiedział Green. „Myślę, że wystarczająca liczba firm będzie wdrażać bardzo zaawansowaną sztuczną inteligencję [do tego stopnia], że żadna firma nie będzie chciała pozostać w tyle. Myślę, że konsumenci prawdopodobnie ukarzą firmy, które nie mają świetnych funkcji AI.”