“ Geleceğin Dünyası, başucumuzda robot kölelerimiz emrimize amade beklerken içine uzanıp yatacağımız rahat bir hamak değil, zekamızın sınırlamalarına karşı gittikçe daha talepkar hale gelen bir mücadele olacak” Norbert Wiener – Tanrı ve Golem- 1964
“Sibernetik” bilimin kurucusu kabul edilen çağımızın önemli bilim insanlarından Norbert Wiener günümüzü ne kadar öngörü ile tarif etmiş. Bu çok değerli kitap bildiğim kadarıyla Türkçeye çevrilmedi. Yazı sonunda kitabın PDF ini bulabileceğiniz linki paylaşıyorum. Linkteki siteyi tavsiye ederim.
Mayıs ayında Dokuz Eylül Üniversitesi Güzel Sanatlar Fakültesi Film Yönetmenliği ve Tasarımı bölümünde Doç. Dr. Ragıp Taranç moderatörlüğünde “YZ ve Sinemanın geleceği” üzerine bir söyleşiye katıldım.
Soru bölümüne geçildiğinde öğrenciler büyük bir hayranlıkla denedikleri uygulamaların özelliklerinden söz ettiler. Bu deneyim ve öğrencilerle yaptığım sohbet, aldığım sorular “Asıl meselenin gözden kaçtığı, saplantılı ve neredeyse büyülenmiş bir şekilde YZ inanması ve bir üst akıl gibi kabulü” durumunda olduğumuzu bir kez daha fark etmemi sağladı.
“Büyülenmek”ten sıyrılıp bu sistemlerin insanlığa ne kadar faydalı olduğunu/olacağını sorgulamamız ve “makine yararlılığı” diye adlandırılan kavrama odaklanmamızın ne kadar önemli ve hayati olduğu gerçeği ile bir kez daha yüzleştim.
Bu konuda iki yazı yazacağım. Bu yazının konusu “Etrafımızı kuşatan bu sistemlerin vizyonunun ve yaygın olarak – insan zekası- ile karıştırılmasının bir illüzyon olduğu.” İkincisi de “Bu sistemler insanlık yararına nasıl evrilebilir ve makina yararlığı kavramının önemi” üzerine genel argümanlar olacak. Meraklısı için yazıların sonuna bazı linkler de bırakacağım elbette.
İçinde bulunduğum sektör bu sistemlerden en çok etkilenenlerin başında geliyor. Biraz teknoloji merakım yüzünden de konu ile ilgiliyim ve süreçleri birçok kaynaktan takip ediyor, okumalar yapıyorum. Bu yazıyı yazarken Disney’in animasyon stüdyosu Pixar’dan yeni işten çıkarılma ile ilgili haberleri okudum. Dünya standartlarında bir animasyon film gerçekleştirmenin beş yüz sanatçı ve beş yıl süren yapım süresinin YZ ile yüzde doksan oranında azalacak olmasının[1] sonuçları olsa gerek! Şirketlerin maliyet avantajını bilet fiyatları ile çalışan emekçilerin ücretleri lehine kullanmayacakları apaçık. Varsa yoksa daha fazla kâr elde etmek temel amaç.
Son yıllarda hızla artan bir etki ile hayatımızın her alanını kuşatan YZ sistemleri konusunda genel kabul görmüş bir tanım yok. Çoğunluk modern YZ demeyi tercih ediyor, bir kısım uzmanlar da “Akıllı davranış veya yüksek seviye yetenek sergileyen akıllı makinalar ve algoritmalar” olarak tanımlıyorlar. Hadi biz de çoğunluğun izinden gidelim şimdilik. Zekanın başında “Yapay” kelimesi de kullanıldığı için bu yazı özelinde ortalığı fazla bulandırmanın alemi yok.
Efendim YZ sistemlerine tabii ki karşı değilim. Cin şişeden çıkmış bir kere. Üstelik otomasyon teknolojileri konusunda süper döngü diye adlandırılan dönemdeyiz. Her bir inovasyon bir başka inovasyonu çok hızlı zincirleme bir reaksiyon misali tetikliyor.
Modern YZ diye adlandırılan çalışmalar ROS (Robotik süreç otomasyonu) dahil hedef olarak kendi kendine davranan, insan seviyesine ulaşan ve ardından insanı aşan makineler olarak belirlenmiş durumda. Tüm geliştirmeler bu amaca yönelik yapılıyor. Zihnimize kazımak için bir kez daha altını çizelim. En büyük hedef “Her şeyi yapabilen, tamamen otonom genel zekanın geliştirilmesidir” DeepMind’in kurucu ortağı Demis Hassabis’in sözleri bu alandaki gelecek hedeflerini ne güzel özetliyor, dikkat buyurunuz: “Zekayı çözmek, ardından bunu kullanarak her şeyi çözmektir.”
İnsanı aşan makineler çok iddialı, ilk bakışta da çok etkileyici bir hedef. Otomasyon, çalışan sayısını azaltma, gözetleme, veri toplama ve veriyi kullanma, tüm vizyon işte bundan ibaret. Bu vizyonun insan refahına katkıları ne yazık ki hiç parlak değil ve sonuçları ortada. Toplumumuz şimdiden iki katmanlı hale geldi. Çin modeli gibi “Dijital diktatörlükler” bir prototip gibi gözümün önünde pusuya yatmış bekliyor. YZ, modern ekonomilerin giderek daha fazla yönüne nüfuz ettikçe ve internet kullanımı daha yaygınlaştıkça ev aletlerinin ve diğer makinelerin sürekli buluta bağlı hale geldiğini düşünün. Toplanan verinin büyüklüğü ile illüzyon daha da artacak gibi gözüküyor. Bu konuda düşünen, yazan birçok akademisyen H.G Wells’in “Zaman Makinesi” distopyasına gittikçe yaklaşıldığı haklı uyarılarla anlatmaya çalışıyorlar.
Çev.: Celâl Üster
Zaman Makinesi
İş Bankası Kültür Yayınları
Yakın zamanda bağımsız bir araştırma kuruluşu olan EPRI dikkat çekici bir rapor yayınladı. Rapora göre 2030 yılında ABD’nin toplam enerjisinin yüzde dokuzunu “Veri şirketlerinin tüketeceği” öngörülüyor.[2] Halen veri merkezlerinin bulunduğu bölgelerde yeraltı su kaynaklarının hızla tükenmekte olduğuna yönelik raporlar mevcut ve ABD’de bu yönde davalar açılmış durumda.
Yükselen YZ ile birlikte bu vizyonun neredeyse ışık hızında ve koşulsuz kabulü ile alelacele ilerleyişine/devreye alınmasına tanıklık ediyoruz. Önümüz, arkamız, sağımız, solumuz YZ sistemleri ve onların harika sonuçları ile dopdolu. Sosyal medya algoritmalarının taraflı yapısı yüzünden çoğunluk bu sistemlerin hatalarını, sorunlarını da göremiyor maalesef. Algı, gerçekliğin önüne geçmiş durumda. Yahu bir dakika sakin olun, bir nefes alın diyen neredeyse “insanlık” düşmanı ilan edilecek.
Yazı başlığı kimilerine göre iddialı gelebilir. Bence gelmeli de… Yukarıda kısaca sözünü ettiğimiz vizyona illüzyon denmesinin temel argümanı, bu teknolojilerin toplumun tamamen yararına olacağının sorgusuz sualsiz kabulü; yetmezmiş gibi “zeka” ile karıştırılmasıdır. Yangından mal kaçırır misali “Hızlı ol, kır, dök”. Üstelik delicesine bir aceleyle devreye alarak sorunların göz ardı edilmesidir. Bu tavır aynı zamanda antidemokratik dönüşümü de hızlandırmaktadır. Geliştiriciler, kullanıcılar açısından “etik standartların”, bu standartlarla bağlantılı yasal düzenlemelerin hala belirlenmediğini hatırlatmak isterim.
Peki ne yapmalıyız öyleyse? Öncelikle genelde sorulmayan “dijital teknolojileri geliştirmenin en iyi yolu bu mudur?” sorusundan başlayıp, teknolojilerin “kendiliğinden” herkesin yararına olamayacağından hareketle bu teknolojilerin sonuçlarından büyülenmeyi bir kenara bırakmalıyız. Bu yeni teknolojilerin sosyal açıdan taraflı olduğu gerçeği ile artık vakit geçirmeden yüzleşmek zorundayız. İnsanlığın önündeki en önemli sorun ekolojik denge dışında budur ve tercih de “politik” olmak zorundadır.
Evet, teknolojiler taraflıdır. Tarihçi Yuval Noah Harari’nin sözüyle “Teknoloji tiranların tarafını tutar”. Bu sınırlı sayıdaki elit/vizyonerlerin bilinçli bir tercihidir. Teknolojilerin taraflı tutumu, dengeleyici güçlerin ortadan kalkması ve olanların da etkisini kaybetmesi kaynaklıdır. Veri toplama, gözetleme ve kişiselleştirilmiş reklam geliri odaklı vizyonları ile inanılmaz zenginleşen bir elin parmaklarından az “vizyonerin” yukarıdan dayattıkları, öngördükleri, “Dijital çözümlerin toplumun yararına olduğu/olacağı” vizyonu sorgusuz ve sualsiz genel kabul görmektedir. Ne yazık ki YZ destekli sosyal medyanın mevcut rotasının demokrasi ve insan hakları için neredeyse tepeden inme internet sansürü kadar sorunlu olduğu ispatlanmış durumda. Myanmar, ABD seçimleri, İran, Rusya, tabii ki Çin örnekleri, Facebook, Google’ın insanlardan izin almaya bile gerek duymadan arka planda yaptıkları bu illüzyonun sonucudur. Böyle devam edilirse en azından çalışan kesim ve muhalifler için -yaka fark etmez- distopik bir gelecek korkarım ki hiç uzak değil.
Öyle algoritmalar yazıyoruz ki bize bakın, takip edin, inanın diyen Google, Amazon, Facebook, Microsoft CEO’ları, mühendisleri ve bir kısım akademisyenlere inanmayarak sorgulamayı tercih eden taraftayım. Onlara “Kazın ayağı hiç de öyle değil” demeliyiz.
Öğrenme ve karar verme süreçlerinde insan zeka seviyesini taklit etmeye çalışan, oysa insan gibi bilinçli düşünme ve anlama yeteneğinden yoksun, -mevcut ikinci aşama yarı gözetimli YZ sistemleri dahil- “var olduklarının” farkında değillerdir. Var olduklarının farkında bile olmayan bu yapay sistemlere niye bu kadar hayranlık gösteriyoruz?
Örneğin son dönemde otomasyon teknolojileri ne kadar gelişse de bu sistemleri kullanan şirketlerin sosyal becerilere sahip insanlara olan taleplerinin arttığı verilerle sabit. Çünkü gerek YZ gerekse geleneksel dijital teknolojiler, sosyal etkileşim, adaptasyon, esneklik ve iletişim gerektiren temel işleri “insan” gibi yapabiliyorlar mı? Kesinlikle hayır. Ancak bu tür bilgilere ve araştırmalara veri karmaşası içerisinde “cımbızla arayarak” ulaşabiliyor olmamızın bile bizi kuşatan YZ çılgınlığının bir eseri olduğu unutulmamalıdır.
“Zeka” insan düşünce ve bilinci ile ilişkili bir kavram. İnsanın bilişsel yetenekleri IQ testleri ile ölçülen analitik zekadan ibaret değil. Karmaşık algoritmalar ve veri işleme tekniklerinden oluşan bu sistemlerin sonuçları bizleri o kadar etkiliyor ki “zeka” ile karıştırmaktayız. İşte illüzyon da tam olarak burada derinleşiyor. Dijital teknolojilerin yapabileceklerinin makinelere göre çizilmesi, yön verilmesi bile ortaya konan vizyonun darlığının en temel göstergelerinden bir tanesidir.
YZ teknolojilerinin gelişimi ve tanıtımı, genellikle onların yeteneklerini abartarak pazarlanıyor. Bu, tüketiciler, teknoloji kullanıcıları hatta bu teknolojileri üretenler/yatırımcıları üzerinde de bir illüzyon yaratmakta. Bu yanıltıcı algı, YZ’nin gerçek potansiyelini anlamayarak onun bir “zeka” olarak kabul edilmesine neden olmaktadır. Deha seviyesinde birkaç elit teknoloji vizyoneri “Süper YZ’yı” geliştirmek ve insanlığın rutin olmayan işlerini de optimize etmek ve bu yolla Dünyamızı daha iyi bir hale getirmek hedefi için kendi illüzyonlarından bir an kurtulup Evrimsel Biyoloji’ye bakabilseler keşke. “İnsanların yaptıkları işlerin çok küçük bir kısmının gerçek anlamda rutin olduğu” gerçeğini göreceklerdir.
İki olgu ile bu konuda ne demek istediğimi canlandırmanıza yardımcı olayım. Birincisi bir yaşında bir çocuğun kendiliğinden dil öğrenme becerisidir. İkincisi yaklaşık altmış yıllık süreç sonunda bugün gelinen evrişimsel sinir ağı tabanlı “İnsanın görme/algılama sistemine benzer” yüz tanıma teknolojilerinin çok daha gelişmiş versiyonunun insanlarda doğuştan var olduğu gerçeğidir. Bu konuda önemli örneklerden kabul edilen bir fotoğraf karesinde YZ sistemlerinin kurt köpeği ile husky cinsini ayırt edebilmesi konusunu, meraklısının incelemesini tavsiye ediyorum.
Gerçek zeka, bilinç ve öz farkındalık gerektirir. Bilinçli olmayan ve doğal sonucu olarak varlıkların farkında olmayan, sadece veri işleyip önceden belirlenmiş belirli kurallar! çerçevesinde karar veren, bu arada veri setlerindeki hata ve önyargılar nedeniyle hatalı ve şeffaf olmayan kararlar verebilen -bir iki örnek de vereceğim- “zekayı” taklit etmek amacıyla programlanmış, insan gibi eleştirel bir bakış açısına sahip olmadıkları için de hatalarını düzeltme ve yeniden değerlendirme kapasiteleri olmayan bu sistemlerin “zeki” olarak kabul edilmeleri mümkün değildir. Bu ayrımın farkına varmalıyız ki etrafımızı saran bu illüzyondan kurtulmaya başlayalım.
İnsanlar duygu, empati, yaratıcılık ve sosyal etkileşim gibi bir dizi doğal yeteneğe sahiptir. İnsan zekasının gücü, sosyal ve durumsal olmasından gelir. İnsanların tanıdık olmadıkları ortamlarda uyurken bile içgüdüsel olarak daha dikkatli oldukları bir gerçektir. Bu özellikler, insan algısını şekillendirir ve insanların birbirleriyle ve çevreleriyle etkileşim kurmalarını sağlar. YZ sistemleri ise bu tür özelliklere sahip değildir ve -yakın gelecekte de- olası görünmemektedir. Çevremizi saran bu illüzyondan kurtulmamız için yeterli değil mi? Birkaç spesifik örnekle devam edelim.
Chat GPT ve benzer dil modelleri, anlamsal olarak doğru ve yaratıcı görünen metinler üretebilir, ne güzel ve etkileyici, hiç itirazım da yok. Ancak “bilinçsiz” olduklarından ürettikleri metinlerin anlamını gerçekten anlayamazlar. Anlayamadığı “etkileyici metinler üretmek!” Zeka ile karıştırmayalım, insan zekasına hakaret etmeyelim lütfen.
Veri setlerindeki önyargılara bir örnek vermek gerekirse; Amazon’un işe alım için geliştirdiği YZ tabanlı sisteme bakmak iyi bir örnekleme olabilir. Sistem, girilen verilerde erkek adayların daha fazla tercih edilmesinden dolayı kadın adayları sistematik olarak dezavantajlı hale getirmiş ve aldığı eleştiriler üzerine değiştirilmek zorunda kalınmıştır.
Bir diğer önemli örnek ise yaygınlaşmaya başlayan otonom araçların karıştığı kazalardır. Çevrelerindeki verileri algılayarak ve analiz ederek sürüş kararları veren bu sistemlerin “insan gibi” karmaşık ve öngörülemeyen durumları anlamakta ve anlık doğru tepki vermekte yetersiz kaldıkları, karıştıkları kazaların oluş şekilleri incelendiğinde ortaya çıkmaktadır. Otonom araçlar konusunda öncü olan Tesla’nın sicili bu konuda pek parlak değil, “Kafası karışıyor ne yapsın abisi”.
Tüm bunlara ilave edebileceğimiz, 2014 yılında geliştirilen bir YZ yöntemi ile yapılan DeepFake’lerdir. “Derin kurgu, derin sahte”, evlerden ırak olsun… İnsanlığın yararına olduğunu savunan yoktur herhalde! Çin teknoloji devi Huawei “Casusluk” teknolojilerini elli farklı ülkeye ihraç etmiş bile!
YZ illüzyonunun araçlarından en önemlisi hiç kuşkusuz günümüz “sosyal medyası”dır. Çıkışı itibariyle insanlar arasında iletişimini sağlamak adına yaratılan bu kitle iletişim araçları, sorunlu algoritmaları yüzünden kendilerine yüklenen işlevden yani aracı olma konumundan epeydir çıkmış durumdadırlar. Bu konuda kitaplar ve makaleler yazılıyor. Birey ve toplumsal etkileri üzerine de birçok araştırma mevcut. Olumsuz etkileri ispatlanmış durumda.
Günümüzde istisnasız her kavram artık kitle iletişim araçlarından akıyor. Bireyler, sosyal medya algoritmalarının yönlendirdiği/öğrettiği yankı odalarındaki “gerçeklik algısına” hapsolmuş durumdalar. Ne olursa olsun herhangi bir şeyi derinlemesine düşünmemekteler. Sosyal medyanın oluşturduğu farklı düşüncelere maruz kalmamayı sağlayan bilgi kabarcıkları yüzünden de bir anlamda “sosyal medya evreninde” yaşamaktadırlar. Facebook ürün geliştirme başkanı Chris Cox’un 2019 yılında bir konferansta söylediği cümle bu konunun tam bir özeti gibi: “Sosyal medyanın tarihi henüz yazılmadı, Ama etkileri tarafsız değil”.
İlla böyle mi olması gerek? Tabii ki hayır. Teknoloji dünyası, algoritmalarından büyülenmek yerine makina yararlılığı üzerine çalışmalarını yoğunlaştırabilirdi. Önemli Bilim insanı Daron Acemoğlu’nun da dediği gibi: “Geç kalındı ama dönülmez noktada değiliz”.
İkinci yazı da devam edeceğiz
[1] https://www.bloomberg.com/news/videos/2023-11-09/katzenberg-ai-will-cut-cost-of-animated-films-by-90-video
Kaynakça:
https://www.amazon.com/Myth-Artificial-Intelligence-Computers-Think/dp/0674983513
https://s10251.pcdn.co/pdf/2021-bender-parrots.pdf
