İnsan Merkezli Açıklanabilir Yapay Zeka (XAI) Nedir?

Açıklanabilir AI (XAI) veya Yorumlanabilir AI, kararları ve tahminleri insanlar tarafından anlaşılabilen yapay zekadır (AI). Tasarımcılarının bile bir yapay zekanın neden belirli bir karara vardığını açıklayamadığı makine öğrenimindeki "kara kutu" konseptiyle çelişir. Yapay Zeka büyük ölçüde iki kategoriye ayrılabilir: Nesnel Yapay Zeka ve Öznel Yapay Zeka. Tartışma konumuz olan XAI, ikincisine aittir. Bu, Yapay Zeka'nın, aynı zamanda 'açıklanabilir İnsan' medya resmimde önemli bir anahtar teknoloji olan Objective AI'dan çok daha gelişmiş bir versiyonudur.

Öznel AI, Açıklanabilirlik gerektirir.

Toplumumuz daha karmaşık hale geldikçe, finans, sigorta ve tıbbi bakım alanlarında müşteri güvenine dayalı kişisel bilgi ve varlıklarla ilgilenmeye başladık. Basitçe görüntüleri sınıflandırmanın veya sayıları tahmin etmenin ötesinde, AI artık "net kararlar vermek" için yaratılıyor. Sonuç olarak, adilliği, güvenilirliği ve doğruluğu sağlamak için yapay zeka ve algoritmalar geliştirmeye ihtiyaç vardır. Başka bir deyişle, yapay zeka sistemlerinden elde edilen sonuçların elde edilmesinin temelini ve türetme süreçlerinin geçerliliğini doğrulamak gerekir.

XAI ile Açıklanabilir İnsan

Proje özeti

Yapay zeka, finans, tıbbi bakım ve eğitim gibi birçok özel alanda tanıtılıyor, ancak görünen o ki yapay zeka henüz içsel zihinlerimize ve kendi imajımıza ilişkin anlayışımıza ulaşmadı. AI insan egosunu açıklayabilir mi? Bu soruyu akılda tutarak, ekibim ve ben etkileşimli medya çizimlerinden oluşan bir enstalasyon planladık.

Ego açıklanabilir mi? Sergi bu basit soruyla başladı. 'Ben'i tek bir cümleyle anlatmak imkansız görünüyor. Açıklanamayan belirsizlik yapay zeka alanını da etkilemiş ve bu sorunu çözmek için açıklanabilir yapay zeka (açıklanabilir yapay zeka) kavramı ortaya çıkmıştır. Bu, yapay zekanın sonuç üretmek için kullandığı nedenleri ve süreçleri açıklayarak insanın daha fazla güvenilirlik peşinde koşma isteğini gösterir.

İşte başka bir soru. O halde açıklanabilecek her şey güvenilir midir? Nesne açıklamamız olarak en zor "benlik" konusunu seçtik ve yapay zeka ile diyalog yoluyla daha iyi anlaşılıp anlaşılmayacağını görmeye çalıştık. Yapay zeka tarafından tanımlanan "benlik" ile izleyiciler tarafından tanımlanan "benlik" arasında meydana gelen çakışmayı ve çatışmayı da deneyimlemek istiyoruz.

Doğal dil blokları oluşturun; Amaç ve varlıklar

Bu sergide uygulanan yapay zeka, izleyicilere kendilerini tanıtmaları için sorular sorar, izleyicilerin yanıtlarını toplar ve anahtar kelimeleri çıkarır ve yorumlar. Bundan sonra yapay zeka, yorumlanan içeriğe dayalı olarak cümleleri yeniden oluşturarak izleyicinin kolektif egosunu çıkarır.

Bu yapay zekayı oluşturmak için, bir veri mimarı ve IxD tasarımcısı olarak, bir projenin bu maratonunda ilk koşucu oldum. Yapay zekamızın insanları anlamak için kullanabileceği üç aşamalı bir soru sistemi oluşturdum.

İlk aşama, "cinsiyet" ve "yaş" gibi demografik sorulardır. İkincisi, bu dünyadaki dostluk ve nefretle ilgili sosyolojik sorular. İlk aşamadan daha radikaldir. Üçüncü aşama daha gizli sorular içerir. Yapay zekamız izleyicilere hangi sırlara değer verdiklerini ve yapay zekaya güvendiklerini sorar. Bu soruların cevapları kendi kural tabanlı matrisimize dahil edilir ve her bir kişinin kendi imajını ifade eden bir dizi cümle türetilir.

Open AI GPT-3'ün yolculuğu

Bu projenin merkezinde, çıkarılmış cümlelerden oluşan bu basit satırı genişletmek için "GPT-3" dil modelini kullanıyoruz. Generative Pre-trained Transformer 3 (GPT-3; stilize edilmiş GPT·3), insan benzeri metinler üretmek için derin öğrenmeyi kullanan bir otoregresif dil modelidir. Bilgi istemi olarak bir ilk metin verildiğinde, istemi devam ettiren bir metin üretecektir. 172,5 milyar parametreyi kullanarak izleyici üyelerimize “makul” cevaplar vermeyi hedefledik. Kullandığımız örnekler aşağıdaki gibidir.

Orijinal sonucumuz (Kural tabanlı matris)

Sen çok zorluklar yaşamış, dünyadaki her şeyle ilgilenen ama yalnız olan bir insansın.

Genişletilmiş sonuç (GPT-3)

Hayatınızda birçok zorluk yaşadınız ve bunun sonucunda dünyada olup biten her şeyle ilgileniyorsunuz, ancak etrafınızdaki dünyaya olan yoğun ilginize rağmen, derin bir içsel yalnızlık hissediyorsunuz. Bu içsel yalnızlık, her zaman hissettiğin bir şeydir ve şimdi daha da güçlü hissettiğin bir şeydir. Başkalarıyla yakın ilişkiler kurmayı özlüyorsunuz, ancak insanlarla daha derin bir düzeyde bağlantı kurmayı zor buluyorsunuz, bunun sonucunda genellikle kendinizi yalıtılmış ve yalnız hissediyorsunuz.

Seyirci, sanki bir falcıda kendileri için mükemmel bir açıklama dinliyormuş gibi veya hafif tatsız bir tekinsizlik duygusuyla bir cevap alacak. AI bizi gerçekten açıklayabilir mi? Bu açıklanamayan soruyu cevaplamak, sergimizin tek amacıydı.