Apple の AI クラウド システムはプライバシー保護について大きな約束をしているが、果たしてそれを守れるのだろうか?

Apple の新しいApple Intelligence システムは、iOS の中核に生成 AI を組み込むように設計されています。このシステムは、テキストや画像の生成、整理やスケジュール機能など、多数の新しいサービス をユーザーに提供します。しかし、このシステムは素晴らしい新機能を提供する一方で、複雑な問題ももたらします。まず、AI システムは iPhone ユーザーの膨大なデータに依存しているため、プライバシーが侵害される可能性があります。また、AI システムには計算能力の大幅な増加が必要であるため、Apple はユーザーの要求を満たすためにクラウド システムにますます依存する必要があります。

Appleはこれまで、iPhoneの顧客に比類のないプライバシーを提供してきました。これは同社のブランドの大きな部分 を占めています。こうしたプライバシー保証の一部は、モバイルデータをローカルに保存するかクラウドに保存するかを選択できるオプションです。クラウドへの依存度が高まるとプライバシーの警鐘が鳴るかもしれませんが、Appleはこうした懸念を予測し、プライベートクラウドコンピューティング（PCC）と呼ぶ驚くべき新しいシステムを開発しました。これは実際には、AI関連のリクエストに対応するためにユーザーのデータが使用されている間、詮索好きな目からユーザーを守るために設計されたクラウドセキュリティシステムです。

紙面上では、Apple の新しいプライバシー システムは非常に印象的だ。同社は「大規模なクラウド AI コンピューティング向けにこれまで導入された中で最も先進的なセキュリティ アーキテクチャ」を開発したと主張している。しかし、紙面上では大きな成果のように見えるものが、最終的には将来的にユーザーのプライバシーに関するより広範な問題を引き起こす可能性がある。そして、少なくとも現時点では、Apple がその高尚な約束を果たせるかどうかは不明だ。

Appleのプライベートクラウドコンピューティングの仕組み

多くの点で、クラウド システムは単なる巨大なデータベースです。悪意のある人物がそのシステム/データベースに侵入すると、その中に含まれるデータを見ることができます。ただし、Apple のプライベート クラウド コンピューティング(PCC) には、そのようなアクセスを防ぐための独自の安全対策が数多く用意されています。

Apple は、ソフトウェアとハ​​ードウェアの両方のレベルでセキュリティ システムを実装したと述べている。同社は新しいクラウド システムを収容するカスタム サーバーを作成し、それらのサーバーは製造中に厳格なスクリーニング プロセスを経て、安全性が確保されていることを確認している。「PCC ノードのコンポーネントを在庫し、高解像度の画像化を行っています」と同社は主張している。サーバーには、改ざん防止シールなどの物理的なセキュリティ メカニズムも装備されている。iPhone ユーザーのデバイスは、保護されたシステムの一部として認定されたサーバーにのみ接続でき、それらの接続はエンドツーエンドで暗号化されているため、送信されるデータは転送中にほとんど変更できない。

データが Apple のサーバーに届くと、プライバシーが確保されるようさらに保護が強化される。Apple によると、同社のクラウドはステートレス コンピューティングを活用し、AI サービス リクエストを実行するために使用された時点以降はユーザー データが保持されないシステムを構築しているという。そのため、Apple によると、ユーザーのデータはシステム内でそれほど長くは保存されないという。データはスマートフォンからクラウドに移動し、Apple の高性能 AI アルゴリズムとやり取りして、ユーザーが送信したランダムな質問やリクエスト (「火星のエッフェル塔の絵を描いてください」など) に応え、その後 (これも Apple によると) データは削除される。

Apple は、同社のブログで詳細を確認できる、その他のセキュリティおよびプライバシー保護策を多数導入している。これらの防御策は多岐にわたるが、すべて 1 つの目的、つまり同社の新しいクラウド システムへの侵入を防ぐことを目的として設計されているようだ。

しかし、これは本当に合法なのでしょうか?

企業は常にサイバーセキュリティに関する大きな約束をしているが、それが真実かどうかを検証するのは通常不可能だ。破綻した仮想通貨取引所FTXはかつて、ユーザーのデジタル資産を隔離されたサーバーに保管していると主張していた。その後の調査で、それが全くのでたらめであること が判明した。しかし、もちろんAppleは違う。外部の観察者に対して自社のクラウドが本当に安全であることを証明するために、同社は「透明性ログ」と呼ばれるものを立ち上げると述べている。これには完全な製品版ソフトウェアイメージ（基本的にはシステムで使用されているコードのコピー）が含まれる。同社はこれらのログを定期的に公開し、外部の研究者がクラウドがAppleの言う通りに動作していることを検証できるようにする予定だ。

PCCについて人々が言っ​​ていること

Apple の新しいプライバシー システムは、テクノロジー コミュニティで大きな意見の二分化を引き起こしました。このプロジェクトの特徴である膨大な労力と比類のない透明性は多くの人々を感心させましたが、モバイル プライバシー全般に及ぼす可能性のあるより広範な影響を懸念する人もいます。最も顕著なのは、つまり大声で、イーロン マスクが直ちにApple が顧客を裏切ったと公言し始めたことです。

ウェブ開発者兼プログラマーのサイモン・ウィリソン氏は、新しいクラウドシステムの「野心の大きさ」に感銘を受けたとギズモードに語った。

「彼らはプライバシー エンジニアリングの分野における複数の極めて困難な問題に同時に取り組んでいます」と彼は語った。「最も印象的なのは監査可能性だと思います。透明性ログでレビュー用に画像を公開し、デバイスがそれを使用して、公開されているソフトウェアを実行しているサーバーとのみ通信していることを確認できる部分です。Apple は業界でも最高のプライバシー エンジニアを雇用していますが、彼らの基準から見ても、これは大変な仕事です。」

しかし、誰もが熱狂しているわけではない。ジョンズ・ホプキンス大学の暗号学教授マシュー・グリーン氏は、アップルの新システムとそれに伴う約束に対して懐疑的な見方を示した。

「私はそれが気に入らない」とグリーン氏はため息をつきながら語った。「私の最大の懸念は、現在ほとんどのユーザーデータが人々の実際の携帯電話に保存されているのに、このシステムによってさらに多くのユーザーデータがデータセンターに集中化されることになるということだ」

これまで、クラウド システムはプライバシーに欠けていることが知られているため、Apple はローカル データ ストレージをモバイル設計の中心に据えてきました。

「クラウド サーバーは安全ではないため、Apple はこれまでずっとこのアプローチをとってきました」とグリーン氏は言う。「問題は、現在行われている AI 関連の取り組みすべてにおいて、Apple の内蔵チップは、彼らが望むような機能を果たすにはパワーが足りないことです。そのため、データをサーバーに送信する必要があり、誰もハッキングできないような超保護サーバーを構築しようとしているのです。」

彼は、Apple がこのような動きをする理由は理解しているが、クラウドへの依存度が高まることを意味するため、必ずしも同意しているわけではない。

グリーン氏によると、Apple はどのデータがローカルに残り、どのデータがクラウドと共有されるかをユーザーに説明するかどうかも明らかにしていない。つまり、ユーザーは自分の携帯電話からどのデータがエクスポートされるのか分からない可能性がある。同時に、Apple は iPhone ユーザーが新しい PCC システムからオプトアウトできるかどうかも明らかにしていない。ユーザーが一定の割合のデータを Apple のクラウドと共有するよう強制されると、平均的なユーザーの自律性が高まるのではなく、低下する可能性がある。Gizmodo はこれら 2 つの点について Apple に問い合わせ、同社から回答があればこの記事を更新する予定だ。

グリーン氏にとって、アップルの新しい PCC システムは、携帯電話業界がよりクラウドに依存する姿勢へと移行する兆しだ。これにより、プライバシー環境全体がより安全ではなくなる可能性があると同氏は言う。

「私はそれについて非常に複雑な気持ちです」とグリーン氏は言う。「十分な数の企業が非常に高度な AI を導入し、どの企業も取り残されたくないと思うようになると思います。優れた AI 機能を持たない企業は、おそらく消費者から厳しく罰せられるでしょう。」