Apple의 AI 클라우드 시스템은 개인 정보 보호를 약속하지만 이를 지킬 수 있을까요?

Apple의 새로운 Apple Intelligence 시스템은 iOS의 핵심에 생성 AI를 주입하도록 설계되었습니다. 시스템은 사용자에게 텍스트 및 이미지 생성은 물론 조직 및 일정 기능을 포함한 다양한 새로운 서비스를 제공합니다. 그러나 시스템은 인상적인 새로운 기능을 제공하는 동시에 복잡성도 초래합니다. 우선, AI 시스템은 엄청난 양의 iPhone 사용자 데이터에 의존하므로 잠재적인 개인 정보 보호 위험이 있습니다. 동시에 AI 시스템의 컴퓨팅 성능 향상에 대한 실질적인 요구는 Apple이 사용자의 요청을 충족하기 위해 점점 더 클라우드 시스템에 의존해야 한다는 것을 의미합니다.

Apple은 역사적으로 iPhone 고객에게 비교할 수 없는 개인정보 보호를 제공해 왔습니다. 그것은 회사 브랜드의 큰 부분 입니다 . 이러한 개인 정보 보호 보장의 일부는 모바일 데이터가 로컬에 저장되는 시기와 클라우드에 저장되는 시기를 선택하는 옵션이었습니다. 클라우드에 대한 의존도가 높아짐에 따라 일부 개인 정보 보호 경보가 울릴 수도 있지만 Apple은 이러한 우려를 예상하고 PCC(Private Cloud Compute)라고 하는 놀라운 새 시스템을 만들었습니다 . 이는 실제로 AI 관련 요청을 이행하는 데 사용되는 동안 사용자의 데이터가 눈에 띄지 않도록 설계된 클라우드 보안 시스템입니다.

서류상으로는 Apple의 새로운 개인 정보 보호 시스템이 정말 인상적으로 들립니다. 이 회사는 "대규모 클라우드 AI 컴퓨팅을 위해 배포된 가장 진보된 보안 아키텍처"를 만들었다고 주장합니다. 그러나 서류상으로는 엄청난 성과처럼 보이는 것이 결국에는 사용자 개인 정보 보호에 대한 더 광범위한 문제를 일으킬 수 있습니다. 그리고 적어도 현 시점에서는 애플이 그 큰 약속을 지킬 수 있을지도 불분명하다.

Apple의 프라이빗 클라우드 컴퓨팅이 작동하는 방식

여러 면에서 클라우드 시스템은 단지 거대한 데이터베이스일 뿐입니다. 악의적인 행위자가 해당 시스템/데이터베이스에 침입하면 그 안에 포함된 데이터를 볼 수 있습니다. 그러나 Apple의 PCC( Private Cloud Compute )는 이러한 종류의 액세스를 방지하도록 설계된 여러 가지 고유한 보호 장치를 제공합니다.

Apple은 소프트웨어와 하드웨어 수준 모두에서 보안 시스템을 구현했다고 밝혔습니다. 회사는 새로운 클라우드 시스템을 수용할 맞춤형 서버를 만들었고, 해당 서버는 제조 과정에서 엄격한 심사 과정을 거쳐 보안을 보장합니다. 회사는 "우리는 PCC 노드 구성 요소의 재고를 조사하고 고해상도 이미징을 수행합니다"라고 주장합니다. 또한 서버에는 변조 방지 봉인과 같은 물리적 보안 메커니즘이 갖추어져 있습니다. iPhone 사용자의 장치는 보호된 시스템의 일부로 인증된 서버에만 연결할 수 있으며 이러한 연결은 종단 간 암호화되어 전송되는 데이터가 전송 중에 거의 접근할 수 없음을 의미합니다.

데이터가 Apple 서버에 도달하면 해당 데이터를 비공개로 유지하기 위한 추가 보호 조치가 적용됩니다. Apple은 자사의 클라우드가 상태 비저장 컴퓨팅을 활용하여 AI 서비스 요청을 이행하는 데 사용되는 시점 이후에는 사용자 데이터가 유지되지 않는 시스템을 만들고 있다고 밝혔습니다. 따라서 Apple에 따르면 귀하의 데이터는 시스템에서 상당한 수명을 갖지 않습니다. 데이터는 휴대폰에서 클라우드로 이동하여 Apple의 강력한 AI 알고리즘과 상호 작용합니다. 이를 통해 제출한 임의의 질문이나 요청(“화성의 에펠탑 사진을 그려주세요”)이 무엇이든 충족됩니다. (다시 말하지만 Apple에 따르면) 삭제됩니다.

Apple은 회사 블로그에서 더 자세히 읽을 수 있는 다양한 보안 및 개인 정보 보호 기능을 마련했습니다 . 이러한 방어는 다양하지만 모두 한 가지 목적, 즉 회사의 새로운 클라우드 시스템에 대한 침해를 방지하도록 설계된 것으로 보입니다.

하지만 이것이 정말 합법적일까요?

회사는 항상 큰 사이버 보안 약속을 하고 있으며 일반적으로 그들이 진실을 말하고 있는지 여부를 확인하는 것은 불가능합니다. 실패한 암호화폐 거래소인 FTX는 사용자의 디지털 자산을 에어갭 서버에 보관한다고 주장한 적이 있습니다. 나중에 조사한 결과 그것은 순전히 헛소리였다는 것이 밝혀졌습니다 . 하지만 물론 애플은 다르다. 클라우드를 실제로 보호하고 있음을 외부 관찰자에게 증명하기 위해 회사는 전체 프로덕션 소프트웨어 이미지 (기본적으로 시스템에서 사용되는 코드의 복사본)가 포함된 "투명성 로그"라는 것을 출시할 것이라고 밝혔습니다. 외부 연구원들이 애플이 말한 대로 클라우드가 작동하는지 확인할 수 있도록 이러한 로그를 정기적으로 게시할 계획이다.

사람들이 PCC에 대해 말하는 것

Apple의 새로운 개인 정보 보호 시스템은 기술 커뮤니티를 눈에 띄게 양극화했습니다. 프로젝트를 특징짓는 상당한 노력과 비교할 수 없는 투명성이 많은 사람들에게 깊은 인상을 주었지만, 일부에서는 이것이 일반적으로 모바일 개인 정보 보호에 미칠 수 있는 더 광범위한 영향을 경계합니다. 가장 주목할 만한 것은 일명 큰 소리로 Elon Musk가 즉시 Apple이 고객을 배신했다고 선언하기 시작했다는 것입니다.

웹 개발자이자 프로그래머인 Simon Willison은 Gizmodo에 새로운 클라우드 시스템의 "야망의 규모"가 인상 깊었다고 말했습니다.

“그들은 프라이버시 엔지니어링 분야에서 매우 어려운 여러 문제를 한꺼번에 해결하고 있습니다.”라고 그는 말했습니다. “제 생각에 가장 인상적인 부분은 감사 가능성입니다. 장치가 공개된 소프트웨어를 실행하는 서버와만 통신하는지 확인하기 위해 사용할 수 있는 투명성 로그에 검토용 이미지를 게시하는 부분입니다. Apple은 업계 최고의 개인 정보 보호 엔지니어를 고용하고 있지만, 그들의 기준으로도 이는 엄청난 작업입니다.”

하지만 모두가 그렇게 열광하는 것은 아니다. 존스 홉킨스 대학의 암호학 교수인 매튜 그린은 애플의 새로운 시스템과 그에 따른 약속에 대해 회의적인 입장을 표명했습니다.

“나는 그것을 좋아하지 않아요.” 그린이 한숨을 쉬며 말했습니다. "나의 가장 큰 관심사는 훨씬 더 많은 사용자 데이터를 데이터 센터에 중앙 집중화할 것이라는 점입니다. 지금은 그 중 대부분이 사람들의 실제 휴대폰에 있습니다."

역사적으로 Apple은 로컬 데이터 저장소를 모바일 디자인의 중심으로 삼았습니다. 클라우드 시스템은 개인 정보 보호가 부족한 것으로 알려져 있기 때문입니다.

“클라우드 서버는 안전하지 않기 때문에 Apple은 항상 이런 접근 방식을 사용해 왔습니다.”라고 Green은 말했습니다. “문제는 현재 진행되고 있는 이 모든 AI 작업으로 인해 Apple의 내부 칩이 원하는 작업을 수행할 만큼 강력하지 않다는 것입니다. 따라서 그들은 데이터를 서버로 보내야 하며 누구도 해킹할 수 없는 강력한 보호 서버를 구축하려고 노력하고 있습니다.”

그는 Apple이 이러한 조치를 취하는 이유를 이해하지만 반드시 동의하지는 않습니다. 이는 클라우드에 대한 의존도가 높아짐을 의미하기 때문입니다.

Green은 또한 Apple이 어떤 데이터가 로컬에 남아 있고 어떤 데이터가 클라우드와 공유되는지 사용자에게 설명할지 여부를 명확하게 밝히지 않았다고 말했습니다. 이는 사용자가 휴대폰에서 어떤 데이터를 내보내는지 알 수 없음을 의미합니다. 동시에, Apple은 iPhone 사용자가 새로운 PCC 시스템을 거부할 수 있는지 여부를 명확하게 밝히지 않았습니다. 사용자가 자신의 데이터 중 일정 비율을 Apple 클라우드와 공유하도록 강요받는다면 이는 일반 사용자의 자율성이 더 커졌다는 의미가 아니라 더 적다는 신호일 수 있습니다. Gizmodo는 이 두 가지 사항에 대한 설명을 위해 Apple에 연락했으며 회사가 응답하면 이 이야기를 업데이트할 것입니다.

Green에게 Apple의 새로운 PCC 시스템은 전화 산업이 보다 클라우드에 의존하는 자세로 전환한다는 신호입니다. 이는 전체적으로 덜 안전한 개인 정보 보호 환경으로 이어질 수 있다고 그는 말합니다.

그린은 “나는 그것에 대해 매우 복잡한 감정을 갖고 있다”고 말했다. “많은 회사들이 어느 회사도 뒤처지고 싶어하지 않을 정도로 매우 정교한 AI를 배포하게 될 것이라고 생각합니다. 아마도 소비자들은 훌륭한 AI 기능을 갖추지 못한 기업을 처벌할 것이라고 생각합니다.”