TikTokfication I: yapay zeka güdümlü bir aptallık (yapay zeka dikkat dağıtma konusunda daha iyi hale geldiğinde)

Nov 27 2022

Varoluşsal risk, fütürolog ve filozof Nick Bostrom tarafından icat edilen ve Dünya üzerindeki yaşamı kalıcı olarak yok edecek veya potansiyelini büyük ölçüde azaltacak olumsuz bir sonuç olarak tanımlanan bir terimdir. Varoluşsal riskler, asteroit çarpmaları, volkanik patlamalar veya yaklaşık beş milyar yıl içinde kırmızı dev fazına girerken Dünya'yı yutan Güneş gibi insan merkezli olmayan veya doğal olabilir.

Varoluşsal risk, fütürolog ve filozof Nick Bostrom tarafından icat edilen ve Dünya üzerindeki yaşamı kalıcı olarak yok edecek veya potansiyelini büyük ölçüde azaltacak olumsuz bir sonuç olarak tanımlanan bir terimdir . Varoluşsal riskler, asteroit çarpmaları, volkanik patlamalar veya yaklaşık beş milyar yıl içinde kırmızı dev fazına girerken Dünya'yı yutan Güneş gibi insan merkezli olmayan veya doğal olabilir. Daha korkunç varoluşsal tehditler insan merkezli veya insan yapımı tehditlerdir, çünkü kendimizi yok etme potansiyeline sahip olduğumuzu ima ederler ve ironik bir şekilde, kendi kendimizi yok etmemizin her iki Büyük Filtre hipotezinin de yanıtı olabileceğini öne sürerler - çok düşük bir olasılık vardır. (veya bir engel) algılanabilir akıllı yaşamın evrimine - ve Fermi paradoksuna -orada akıllı yaşamın bariz eksikliği.

Bir tür yıkıcı yapay zekanın (AI) geliştirilmesi, insanlığı yok etmekle tehdit eden birçok insan merkezli veya insan yapımı risklerden biri olarak varsayılıyor. Süper zeki savunma sistemi Skynet'in bilinç kazandığı ve kapatılmadan önce insanlığı yok etme girişiminde bulunan makinelere liderlik ettiği ünlü Terminatör filminin arkasındaki tez aslında budur . Belki de popüler kültürdeki bu temsil nedeniyle, yapay zeka güdümlü bir yok oluşu bir programlama hatası veya kasıtsız bir özellik olarak düşünmek daha kolaydır ve yapay zekayı yaratıcılarının aleyhine çevirir. Ama böyle olmak zorunda değil; ufukta gizlenen ve potansiyelimizi kısıtlamakla tehdit eden çok daha kasvetli ve müthiş bir tablo var: TikTok.

Bu yazıda, TikTok'un (ve daha geniş anlamda sosyal medyanın) bir tür olarak potansiyelimizi iki şekilde azalttığını savunuyorum: dikkatimizi çalarak ve can sıkıntısını ortadan kaldırarak ve bilginin yayılma şeklini değiştirerek toplumumuzu tamamen dönüştürerek. .

Sosyal medya bizi akılsız maymunlara mı çeviriyor? Dall-E ile oluşturuldu.

Bölüm 1. Konsantrasyon

Konsantrasyona ne kadar sahibiz? Isaac Newton, bir problem üzerinde defalarca düşünme azmi sayesinde hareket ve yerçekimi yasalarını yazar mıydı ? Isaac Asimov'un 25 yıl boyunca her 2 haftada bir tam bir romana eşdeğer bir eser üretebildiğini düşünüyor musunuz ? Charles Darwin, evrim teorisini ortaya atmış mıydı, yoksa zihninin boş boş dolaşıp büyük fikirlerini ortaya çıkarması için gereken uzay ve zamana izin vermişti?

Tüm zamanların en büyük dehalarının biyografik anlatımları kendi adına konuşuyor: Isaac Newton'un tüm fikirlerini ürettiği ve onu hareket ve yerçekimi yasalarını yazmaya, kalkülüse önemli katkılarda bulunmaya ve ışığı çözmeye götüren tüm deneyleri tasarladığı söyleniyor. genişleyen Kara Veba'dan kaçmak için kendisini Woolsthorpe çiftliğinde inzivaya çekilmiş bir yalnızlık içinde bulduğunda onun "renkleri" (dalga boyları). Tüm fikirlerini nasıl üretebildiği sorulduğunda, " sürekli düşünerek " yanıtını verdi . Isaac Asimov, “Benim hissim, yaratıcılık söz konusu olduğunda izolasyonun gerekli olduğu yönünde. Yaratıcı kişi, her halükarda, sürekli onun üzerinde çalışır.. Zihni, bilincinde olmadığı zamanlarda bile bilgilerini her zaman karıştırıyor.” Charles Darwin'in "düşünme yolu" dediği, Kent'teki evinin etrafında her gün yürüdüğü, her turda bir çakıl taşını bir yığına tekmeleyecek kadar ileri gittiği bir yürüyüş yolu vardı.

Tüm zamanların en büyük beyinlerinin, fikirlerin üretilmesini teşvik etmek için gerekli olan izolasyon ve konsantrasyona yönelik bazı rutinlere sahip olduğunu bulmak kolaydır. Bazıları uzun süreler boyunca yürümeyi seçti, örneğin bir keresinde "tüm gerçekten büyük düşünceler yürürken tasarlanır" diyen ve düzenli olarak yakındaki ormanda iki saatlik yürüyüşlere çıkan Friedrich Nietzsche. Diğerleri bunun yerine , denizde net bir şekilde düşünmek için gereken dikkat dağıtıcı olmayan ortamı bulan Albert Einstein gibi daha alışılmadık faaliyetleri seçti.. O rutin olarak sürüklenmeye yelken açardı ve "denizde bir gemi yolculuğunu" "maksimum sakinlik ve fikirleri farklı bir perspektiften düşünmek için mükemmel bir fırsat" olarak görürdü. Karısı şöyle yazardı: "kocamın bu kadar rahat olduğu başka bir yer yok. , tatlı, sakin ve rutin dikkat dağıtıcı şeylerden bağımsız , gemi onu çok uzaklara taşıyor. "Çalışmak ve düşünmek - yazışmaların, ziyaretlerin, toplantıların ve şeytanın diğer icatlarının olmadığı cennet gibi bir durum!" fizikte Nobel Ödülü aldığı ve Japonya, Çin, Filistin ve İspanya'yı gezdiği çok yoğun bir yıl boyunca.

Zamanın sınavına dayanan ve tüm nesilleri etkilemeye devam eden ve gerçeklik anlayışımızı ilerleten türden derin fikirler üretmek için sessizlik, izolasyon ve konsantrasyonun gerekli olduğu açıktır. Ama bu yeterli değil. Bilim adamlarından müzisyenlere uzanan hoş, sürükleyici durum yaratıcılarının iş yerinde deneyimledikleri "akış durumu"nun arkasındaki psikolog Mihaly Csíkszentmihályi'ye göre, bunun en az 10 yıl sürdüğü kesin olarak kanıtlanmıştır.Bir şeyi yeni bir şekilde, zaten var olandan daha iyi bir şekilde yaratabilmek veya değiştirebilmek için belirli bir alanda sürükleyici teknik bilgi. Bu nedenle, tüm zamanların en büyük ressamları, bilim adamları, mimarları, doktorları, ekonomistleri, filozofları vb. ortak bir şeye sahip olsalar bile, derin bir şekilde odaklanma ve anlık tatmini uzun süreler boyunca erteleme konusundaki muazzam yetenekleriydi - etkin bir şekilde konsantrasyon ustaları haline geldiler. .

Bunların "aykırı değerler" olduğunu, zaten dahi olarak doğduklarını ve konsantrasyonun önemini iyi bir şekilde temsil etmeyebileceklerini iddia edebilirsiniz. Ancak bu yetenekten yararlananlar sadece tüm zamanların en büyük beyinleri değil, toplum da buna güveniyor. Toplumdaki sözleşmeye dayalı anlaşmaların çoğunun uzmanlık ve konsantrasyon için bir para alışverişi olduğuna katılmıyor musunuz? Veya cerrahınızın operasyon sırasında odaklanmasını ve rahatsız edilmemesini istemez misiniz? Binmek üzere olduğunuz uçağın pilotu? Taksi şoförün mü? Bu durumlarda güvenlik tehlikededir ve bu nedenle dikkat dağıtmanın zararları açıktır. Peki ya sanatçılar, bilim adamları veya mühendisler gibi daha az belirgin durumlar? Derinlemesine odaklanma yetenekleri bozulduğunda tehlikede olan nedir? İşte nitelik ve nicelikartan dikkat dağınıklığından muzdarip olacak çıktılarının. Sürece derinlemesine dalmadan, içerik oluşturucular hızlı ve yüzeysel işler üreteceklerdir. Bu nedenle dikkat dağınıklığı, insan hatalarının artmasına -bazı durumlarda ölümcül ve kolayca gözlemlenebilen hatalara (örneğin araba kazaları)- yol açacak, ama aynı zamanda bir toplumun çıktılarının nitelik ve nicelik kaybına ve müzisyenlerin sayısında azalmaya yol açacaktır. girişimciler, sanatçılar, bilim adamları vb.

Şimdi kendinize sorun: sosyal medya ne tür davranışları teşvik ediyor? Az önce tarif ettiğim davranış türünün tam tersi değil mi? Derinlemesine odaklanma yeteneğimiz küresel ölçekte bozulduğunda ne olacak? Ve bu dikkat dağıtma yapay zeka tarafından destekleniyorsa?

Sosyal medya: dikkatinizi dağıtmakta her geçen gün daha iyiye gidiyor

Basit bir ifadeyle, bir yapay zekayı eğitmek için ihtiyacınız olan tek şey, ölçülebilir bir "başarı" ölçüsü ve büyük miktarda veridir. Yapay zeka verilerle beslenir (ör. üzerlerinde at olan veya olmayan görüntüler) ve belirli bir görevin çıktıları (ör. bir görüntüdeki atı belirleme) bu başarı metriğine göre eşleştirilir (AI, içinde bir at olup olmadığını doğru bir şekilde belirledi mi? giriş görüntüsü?). Yinelemeli bir süreç aracılığıyla yapay zeka, bu başarı metriğini en üst düzeye çıkarmak için bazı dahili parametreleri optimize edecektir. Basit görüntü tanımadan Alpha GO'ya kadar , bir yapay zeka, bu yinelemeli süreç aracılığıyla kendisine daha fazla veri beslendikçe görevlerinde giderek daha iyi hale gelecektir. Yani bu şu soruyu akla getiriyor: Youtube, TikTok, Instagram, Facebook… hangi başarı ölçütünü maksimize ediyor? AI'larının giderek daha iyi hale geldiği şey nedir? Basitçe söylemek gerekirse, dikkatiniz.

Bu platformlar düşünce sürecinizi kesintiye uğratmak için tasarlanmadı mı? Dikkatinizi olabildiğince sık ve mümkün olduğu kadar uzun süre çekmek için mi? Dikkatinizi dağıtmak ve dikkatinizi başka yöne çekmek için mi? Ve bu platformların teşvik ettiği davranış türleri, derin fikirler üretmek için gereken kendi kendine kapsayıcı düşünce sürecinin tam tersi değil mi? Günde 58 kez dikkati dağılan bir insan ne tür derin işler yapabilir ? Ve bu zamanların otuzu işteyken olduğunda ? İnsanların günde 30 kez telefonlarını kontrol etmesi sonucunda toplumumuz ne kaybediyor? Ve zaten zorunlu olarak telefonlarımızı kontrol edersek ve bu AI algoritmaları her geçen gün daha iyi hale geliyorsa , uzun vadeli eğilim nasıl görünüyor ?Sosyal medyanın potansiyelimizi kısıtladığını düşünene kadar TikTok'a daha kaç Descartes, Marie Curies veya Einstein kaybedeceğiz ?

Aynı zamanda İnsanlığın Geleceği'nin " birisi yanlışlıkla veya kasıtlı olarak bir yapay zeka sistemini serbest bırakabilir ve bu da insanlığın yok olmasına neden olabilir " uyarısında bulunması da şaşırtıcı ve paradoksaldır.”, insan beynini küresel ölçekte hacklemek için kendi kendini geliştirme yeteneklerine sahip gelişmiş algoritmalar kullanan Mark Zuckerberg ve benzerlerine sahibiz. Bir toplumu bir grup akılsız kayan maymuna dönüştürmek varoluşsal bir tehdit değil mi? İnsan beynini zahmetsiz dopamin ödülleri aramak için yeniden yapılandırmak, bilişsel zorlu görevleri yerine getirmesini engellemek varoluşsal bir tehdit değil mi? AI algoritmalarının beynimizi manipüle etmesine ve kelimenin tam anlamıyla kararlarımızı etkilemesine izin vermek varoluşsal bir tehdit değil mi? Ve can sıkıntısı - sosyal medyanın sunduğu sınırsız eğlencenin sona erdirdiği bu "korkunç" his - çaba sarf etmek için motivasyon toplamak için gerekli katalizör, kendini gözlemlemek ve yeni fikirler üretmek için gerekli alan ve zaman değil mi? yeni yaratıcı fikirler?

Uzun vadeli eğilim, Wall-E ve Ready Player One'ın bir karışımı gibi görünüyor; burada, giderek daha fazla telefonlarımıza bağlandıkça , fiziksel dünyayla bağlantımız yavaş yavaş kopuyor ve onu kendi cihazlarına bırakıyoruz. Bilinçsiz bir yapay zekanın insafına kalacağız, ne iyi ne de kötü olan, tek umursadığı tek şey bizi mümkün olduğu kadar uzun süre ekrana bağlamak, çünkü onu bunun için programladık.

Konsantrasyon yeteneğimiz elimizden alınırken, sosyal medya toplumumuzu gerçekten korkutucu şekillerde dönüştürüyor.

Bölüm 2. TikTok'unuzda biraz Youtube var: dikkat savaşları

İlk bakışta dikkat dağınıklığı sorunları sadece sosyal medya kullanıcılarını etkilemeli gibi görünebilir. Ancak sorun şu ki, herhangi bir teknolojinin veya iletişim biçiminin etki alanı kullanıcıları arasında yer almıyor. Örneğin, arabanın ortaya çıkışı beraberinde kısıtlamaları, sokak işaretlerini ve kanunları getirdi ve şehirleri hem araba sürücüleri hem de yayalar için dönüştürdü. Benzer şekilde, sosyal medya toplumumuzu yavaş yavaş dönüştürüyor ve TikTok'u veya Instagram'ı suçlamamız gerekip gerekmediği önemli değil, çünkü TikTok zaten diğer tüm sosyal medya platformlarını yamyam etti. Bu ilk noktayı göstermek için Youtube ve TikTok'u karşılaştırabiliriz.

Yüzeyde Youtube ve TikTok açıkça farklı platformlar gibi görünse de - ilki uzun formatlı içeriğe odaklanan bir video paylaşım platformuydu, ikincisi gerçek içerikten yoksun kısa formatlı müzik videolarına odaklanan bir sosyal medya platformuydu - nihai hedefleri aynı: dikkatiniz. Dikkatiniz günün 24 saati ile sınırlı olduğu için bu iki dev aynı pastadan pay almak için yarışır. Bu, Youtube'un Youtube olmayı önemsemediği, yani uzun formatlı içeriğe odaklandığı ve koşullar gerektirdiği takdirde, örneğin uygulamada geçirilen sürenin azalması nedeniyle değişmeye hazır olacağı anlamına gelir. Bu sebeple önde gelenDiğerlerinin uyum sağlamasına neden olan platform, çünkü izleyici çekmek için hangi reçete kullanılıyorsa, halihazırda pratikte olanlardan daha etkili oluyor. Bu nedenle Instagram, esasen Snapchat (hikayeler), TikTok (makaralar) ve Youtube'un (Instagram TV) Frankestein versiyonudur ve başlangıçta her zaman uzun formatlı içeriğe odaklanan bir video paylaşım platformu olan Youtube'un da aynı nedenledir. artık bir sosyal medya platformu olarak kabul ediliyor ve hatta kendi TikTok versiyonunu (Youtube shorts) tanıtacak kadar ileri gitti.

Ancak bu kez baskın oyuncu hakkında özellikle endişe verici bir şey var - 2022'nin sonunda önde gelen sosyal medya platformu olacağı tahmin edilen TikTok. Görüyorsunuz, Youtube (özellikle TikTok öncesi sürüm) genişlerse bu hiç de fena olmaz. etki alanı, çünkü çoğu zaman iyi araştırılmış ve ilginç bilgilerle dolu ya da sadece son derece yararlı - kelimenin tam anlamıyla her şeyi öğrenebileceğiniz sayısız öğretici gibi - çok sayıda iyi düşünülmüş içerik olduğu için, uzun olduğu iddia edilebilir. biçim içeriği konsantrasyonu teşvik eder. Bunun yerine, TikTok içeriği saçma olanın en son indirgemesidir - kısa, kendi kendine yeten ve her zaman olmasa da çoğu zaman müzik eşliğinde. Bazıları aksini iddia etse bile, bu içerik biçimi hiçbir şekilde eğitici olmaya uygun değildir. Aslında,

Araç mesajdır

Bu, Kanadalı iletişim teorisyeni Marshall McLuhan'ın bilginin iletişim yoluyla şekillendiğini ifade etmek için kullandığı cümleydi. Başka bir deyişle, ortalama ve mesaj bağımsız değildir. Örneğin, Neil Portman'ın belirttiği gibi, yazılı sözle meşgul olmak için "okuyucu silahlı, ciddi bir entelektüel hazırlık durumunda gelmelidir." Okuma, "önemli ölçüde sınıflandırma, çıkarım yapma ve muhakeme gücü gerektiren bir düşünce çizgisini takip etmek anlamına gelir." Bilimin esas olarak yazılı makaleler şeklinde yayılmasının nedeni budur, çünkü okuma, metodolojiyi ve yeni sonuçların geçerliliğini dikkatlice incelemek için gerekli olan bilginin yavaş, rasyonel ve odaklanmış bir şekilde işlenmesini zorlar. İnternet içeriğinin genel olarak kısa ve yüzeysel olmasının nedeni de budur. kitaplar ise belirli bir konuya çok daha derin ve karmaşık bir dalış sağlar. İlki, kesintileri ve dikkat dağıtmayı (reklamlar, açılır pencereler, bildirimler, otomatik oynatma) ve aktif bilgi tüketimini (tıklamalar, kaydırmalar, vb.) teşvik eden bir yolla sağlanırken, ikincisi, sürükleyici ve dikkat dağıtıcı olmayan bir bilgi tüketimi gerektirir. Bu nedenle, Netflix izlerken Instagram akışınızda gezinebilirsiniz, oysa TV izlerken okumak imkansız olacaktır.

Şimdi kendinize sorun: Yalnızca sıfır dikkat gerektiren ve aslında ikinci süreli dikkat sürelerini teşvik eden arka plan müziği içeren bağımsız ve bağlamından koparılmış dans videolarına izin veren bir araçla hangi bilgiler iletilebilir? Yok veya varsa, son derece sığ bir tane.

Karmaşık bilgilerin TikTok aracılığıyla iletilmesine yer yoktur çünkü ortam buna uygun değildir. TikTok etki alanını genişlettikçe ciddi içerikler bir kenara atılacak ve tüm karmaşık bilgiler basitleştirilecek, basitleştirilecek, minimuma indirilecek ve miskin beyinlerimiz tarafından fon müziği ile tüketilebilecektir. Bu TikTok, bahsettiğim şeyin mükemmel bir örneği (yeterince komik bir şekilde LinkedIn'de bulundu).

Daha önce hiç TikTok izlemediyseniz, bu videonun ne hakkında olduğunu anlamak bile zor olabilir. Bana göre, bu tür içerikler , o kadar aptal hale geldik ki, yutması uzaktan zor olan bilgilerin - böyle bir excel ipucu - bir dans performansının eşlik etmesi gerekiyor, bu yüzden eğlenceli. Artık bir “öğretici” okuyamıyor veya izleyemiyoruz; artık finanstan bilime kadar pek çok konu eğlenceli hale gelmeli ve bu tür içerikler , sürekli artan bilgi akışının bir sonucu olarak içeriği daha ilgi çekici hale getirme ihtiyacı nedeniyle diğer bilgi aktarım araçlarını tükettiğinden, içerik bu süreçte kendimizle birlikte en saçma noktaya kadar aptallaştık.

Ve dönüşüm şimdiden hissediliyor: Müzik artık TikTok-sürelerine uyacak şekilde üretiliyor , Twitter'da siyaset yapmak artık kabul edilebilir, Tweetler genellikle "haberlerin" bir parçası, "haberler" gün geçtikçe kısalıyor, bilim ve finans artık TikTok tarzı formatta yayılıyor ve "memler" artık para birimleri veya hisse senetleri. Artık “içeriği” olmayan, ne bilgilendirici ne de komik, sadece “eğlenceli” içerikler - içeriksizlik içeriği dediğim - ancak TikTok aracılığıyla gerçekleştirilebilen bir " içerik" üretmenin fiilen mümkün olduğu noktaya geldik. yasal bir iletişim biçimi olarak arka plan gürültüsünün sessizliğin yerini almasına izin veren tek iletişim aracı.

Yapay zeka destekli sosyal medya tam olarak bir ilgisizlik denizini yarattı Neil Postman, Eğlendirerek Ölümüne Kendimizi Eğlendirmek'te bizi şu konuda uyarıyordu: "Aldous Huxley'in Cesur Yeni Dünya'sıyla korktuğu şey, kitapları yasaklamak için hiçbir neden olmamasıydı, çünkü kimse bunu istemezdi. birini okumak için Huxley, gerçeğin bir ilgisizlik denizinde boğulacağından korkuyordu .” Bunlar, Huxley'in 1932'de Cesur Yeni Dünya'yla geldiğini gördüğü tehlikelerdir, ancak Huxley'nin fark edemediği şey, yatıştırıcı, mutluluk üreten bir ilaç almayacağımızdır; telefonunuzu çıkarın, en sevdiğiniz sosyal medya uygulamasını açın ve kaydırmaya başlayın.

Not: Mevcut toplumumuzda 10+dakikalık bir gönderiye gücüm yetmediği için, sosyal medyanın bizi aptal yerine koyduğuna dair kanıtları gözden geçiren 2. bölüm bir sonraki gönderide yayınlanacak.