Apple'ın Yapay Zeka Bulut Sistemi Büyük Gizlilik Vaatleri Veriyor, Ancak Bunları Tutabilir mi?

Apple'ın yeni Apple Intelligence sistemi, üretken yapay zekayı iOS'un çekirdeğine aşılamak için tasarlandı. Sistem, kullanıcılara metin ve resim oluşturmanın yanı sıra organizasyonel ve planlama özellikleri de dahil olmak üzere bir dizi yeni hizmet sunuyor. Ancak sistem etkileyici yeni yetenekler sağlarken aynı zamanda komplikasyonları da beraberinde getiriyor. Öncelikle yapay zeka sistemi, iPhone kullanıcılarının büyük miktardaki verilerine dayanıyor ve bu da potansiyel gizlilik riskleri sunuyor. Aynı zamanda yapay zeka sisteminin artan hesaplama gücüne olan önemli ihtiyacı, Apple'ın kullanıcıların isteklerini yerine getirmek için bulut sistemine giderek daha fazla güvenmek zorunda kalacağı anlamına geliyor.

Apple tarihsel olarak iPhone müşterilerine benzersiz bir gizlilik sunmuştur; Şirketin markasının büyük bir parçası . Bu gizlilik güvencelerinin bir kısmı, mobil verilerin ne zaman yerel olarak ve ne zaman bulutta saklanacağını seçme seçeneği olmuştur. Buluta olan bağımlılığın artması bazı gizlilik alarm zillerini çalsa da, Apple bu endişeleri önceden tahmin etti ve Özel Bulut Bilişim veya PCC adını verdiği şaşırtıcı yeni bir sistem yarattı . Bu aslında yapay zeka ile ilgili isteklerin yerine getirilmesine yardımcı olmak için kullanılırken kullanıcıların verilerini meraklı gözlerden uzak tutmak için tasarlanmış bir bulut güvenlik sistemidir.

Kağıt üzerinde Apple'ın yeni gizlilik sistemi gerçekten etkileyici görünüyor. Şirket, "bulut yapay zeka bilişimi için geniş ölçekte şimdiye kadar dağıtılan en gelişmiş güvenlik mimarisini" oluşturduğunu iddia ediyor. Ancak kağıt üzerinde büyük bir başarı gibi görünen şey, sonuçta kullanıcı gizliliği konusunda daha geniş sorunlara neden olabilir. Ve en azından bu noktada Apple'ın büyük vaatlerini yerine getirip getiremeyeceği belirsiz.

Apple'ın Özel Bulut Bilgi İşleminin Nasıl Çalışması Gerekiyor?

Bulut sistemleri birçok açıdan dev veritabanlarından ibarettir. Kötü bir aktör o sisteme/veri tabanına girerse, içindeki verilere bakabilir. Ancak Apple'ın Özel Bulut Bilişimi (PCC), bu tür erişimi engellemek için tasarlanmış bir dizi benzersiz koruma sağlar.

Apple, güvenlik sistemini hem yazılım hem de donanım düzeyinde uyguladığını söylüyor. Şirket, yeni bulut sistemini barındıracak özel sunucular oluşturdu ve bu sunucular, güvenli olduklarından emin olmak için üretim sırasında sıkı bir tarama sürecinden geçiyor. Şirket, "PCC düğümünün bileşenlerinin envanterini çıkarıyor ve yüksek çözünürlüklü görüntülemesini gerçekleştiriyoruz" diye iddia ediyor. Sunucular aynı zamanda kurcalamaya dayanıklı mühür gibi fiziksel güvenlik mekanizmalarıyla da donatılıyor. iPhone kullanıcılarının cihazları yalnızca korumalı sistemin bir parçası olarak sertifikalandırılmış sunuculara bağlanabilir ve bu bağlantılar uçtan uca şifrelenmiştir; bu, iletilen verilerin aktarım sırasında neredeyse dokunulmaz olduğu anlamına gelir.

Veriler Apple'ın sunucularına ulaştığında gizli kalmasını sağlamak için daha fazla koruma vardır. Apple, bulutunun, kullanıcı verilerinin bir AI hizmet talebini yerine getirmek için kullanıldığı noktadan sonra tutulmadığı bir sistem oluşturmak için durum bilgisi olmayan bilgi işlemden yararlandığını söylüyor. Yani Apple'a göre verilerinizin sisteminde önemli bir ömrü olmayacak. Veriler telefonunuzdan buluta gidecek, Apple'ın yüksek oktanlı yapay zeka algoritmalarıyla etkileşime girecek ve böylece gönderdiğiniz rastgele soru veya istek ("bana Mars'taki Eyfel Kulesi'nin bir resmini çiz") yerine getirilecek ve ardından veriler (yine Apple'a göre) silinecek.

Apple , şirketin blogunda daha ayrıntılı olarak okunabilecek bir dizi başka güvenlik ve gizlilik koruması başlattı . Bu savunmalar çok çeşitli olsa da hepsi tek bir şey yapmak için tasarlanmış gibi görünüyor: şirketin yeni bulut sisteminin herhangi bir şekilde ihlal edilmesini önlemek.

Ama Bu Gerçekten Yasal mı?

Şirketler her zaman büyük siber güvenlik vaatleri veriyor ve genellikle doğruyu söyleyip söylemediklerini doğrulamak imkansız. Başarısız olan kripto para borsası FTX, bir zamanlar kullanıcıların dijital varlıklarını hava boşluklu sunucularda tuttuğunu iddia etmişti. Daha sonra yapılan araştırmalar bunun tamamen saçmalık olduğunu gösterdi . Ancak Apple elbette farklı. Şirket, dış gözlemcilere bulutunu gerçekten güvence altına aldığını kanıtlamak için, tam üretim yazılımı görüntülerini (temel olarak sistem tarafından kullanılan kodun kopyalarını) içeren "şeffaflık günlüğü" adı verilen bir şeyi başlatacağını söylüyor . Şirket, dışarıdan araştırmacıların bulutun Apple'ın söylediği gibi çalıştığını doğrulayabilmesi için bu günlükleri düzenli olarak yayınlamayı planlıyor.

İnsanlar PCC Hakkında Ne Söylüyor?

Apple'ın yeni gizlilik sistemi teknoloji camiasını belirgin şekilde kutuplaştırdı. Projeyi karakterize eden büyük çaba ve benzersiz şeffaflık pek çok kişiyi etkilemiş olsa da, bazıları bunun genel olarak mobil gizlilik üzerinde yaratabileceği daha geniş etkiler konusunda temkinli davranıyor. En önemlisi, yani yüksek sesle, Elon Musk hemen Apple'ın müşterilerine ihanet ettiğini ilan etmeye başladı.

Bir web geliştiricisi ve programcısı olan Simon Willison, Gizmodo'ya yeni bulut sisteminin "hırs ölçeğinin" onu etkilediğini söyledi.

"Gizlilik mühendisliği alanında çok sayıda son derece zorlu sorunu aynı anda ele alıyorlar" dedi. "Bence en etkileyici kısım, denetlenebilirliktir; cihazların yalnızca halka açık yazılımı çalıştıran bir sunucuyla konuştuklarından emin olmak için kullanabilecekleri bir şeffaflık günlüğünde görüntüleri incelenmek üzere yayınlayacakları kısımdır. Apple sektördeki en iyi gizlilik mühendislerinden bazılarını çalıştırıyor ancak onların standartlarına göre bile bu zorlu bir iş.”

Ancak herkes bu kadar heyecanlı değil. Johns Hopkins Üniversitesi'nde kriptografi profesörü olan Matthew Green, Apple'ın yeni sistemi ve onunla birlikte gelen vaatler hakkındaki şüphelerini dile getirdi.

Green içini çekerek, "Onu sevmiyorum," dedi. "En büyük endişem, çok daha fazla kullanıcı verisinin bir veri merkezinde merkezileştirilmesi, halbuki şu anda bunların çoğu insanların gerçek telefonlarında."

Bulut sistemleri gizlilik eksiklikleriyle bilindiğinden, geçmişte Apple yerel veri depolamayı mobil tasarımının temel dayanağı haline getirmişti.

Green, "Bulut sunucuları güvenli değil, dolayısıyla Apple her zaman bu yaklaşımı benimsedi" dedi. “Sorun şu ki, tüm bu yapay zeka olaylarıyla birlikte Apple'ın dahili çipleri, onların yapmasını istedikleri şeyleri yapabilecek kadar güçlü değil. Bu yüzden verileri sunuculara göndermeleri gerekiyor ve kimsenin hackleyemeyeceği bu süper korumalı sunucuları oluşturmaya çalışıyorlar.”

Apple'ın neden bu hamleyi yaptığını anlıyor ancak buluta daha fazla güvenmek anlamına geldiğinden buna kesinlikle katılmıyor.

Green, Apple'ın kullanıcılara hangi verilerin yerel kalacağını ve hangi verilerin bulutla paylaşılacağını açıklayıp açıklamayacağını da netleştirmediğini söylüyor. Bu, kullanıcıların telefonlarından hangi verilerin aktarıldığını bilemeyebilecekleri anlamına gelir. Aynı zamanda Apple, iPhone kullanıcılarının yeni PCC sisteminden çıkıp çıkamayacaklarını net bir şekilde belirtmedi. Kullanıcılar verilerinin belirli bir yüzdesini Apple'ın bulutuyla paylaşmaya zorlanırsa, bu ortalama kullanıcı için daha fazla değil, daha az özerkliğe işaret edebilir. Gizmodo, bu iki nokta hakkında açıklama almak için Apple'a ulaştı ve şirket yanıt verirse bu hikayeyi güncelleyecek.

Green'e göre Apple'ın yeni PCC sistemi, telefon endüstrisinde buluta daha fazla dayalı bir duruşa doğru bir değişimin sinyalini veriyor. Bunun genel olarak daha az güvenli bir gizlilik ortamına yol açabileceğini söylüyor.

Green, "Bu konuda çok karışık hislerim var" dedi. "Yeterli sayıda şirketin, hiçbir şirketin geride kalmak istemeyeceği kadar gelişmiş yapay zekayı konuşlandıracağını düşünüyorum. Tüketicilerin muhtemelen harika yapay zeka özelliklerine sahip olmayan şirketleri cezalandıracağını düşünüyorum."