Yapay Zekanın Asıl Tehlikesi
Bahadır Çelebi 01 Ocak 1970
Mayıs ayında 350’den fazla teknoloji yöneticisi, araştırmacı ve akademisyen, yapay zekanın varoluşsal tehlikeleri konusunda uyarıda bulunan bir bildiriye imza attı. İmzacılar, “Yapay zeka kaynaklı yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olmalıdır” uyarısında bulundu.
Bu çağrı, Elon Musk ve Apple’ın kurucularından Steve Wozniak gibi isimlerin imzaladığı ve ileri düzey yapay zeka sistemlerinin geliştirilmesi konusunda altı aylık bir moratoryum çağrısında bulunan başka bir yüksek profilli bildirinin hemen ardından yayınlandı.
Bu arada Biden yönetimi, “sorumlu bir yapay zeka inovasyonu” uyarısında bulundu ve yapay zekanın “sunduğu fırsatları değerlendirmek için” öncelikle “risklerini yönetmemiz gerektiğini” belirtti. Kongre’de Senatör Chuck Schumer, sanayi yöneticileri, akademisyenler, sivil haklar aktivistleri ve diğer paydaşlardan, yapay zekanın potansiyeli ve riskleri hakkında bir tür hızlandırılmış kurs olan ve “türünün ilk örneği” dinleme oturumları yapılması çağrısında bulundu.
Yapay zekaya ilişkin artan kaygı, kısa mesajlarımızı otomatik olarak tamamlayan ya da robot süpürgeleri oturma odalarımızdaki engellerden kaçmaya yönlendiren sıkıcı ama güvenilir teknolojilerden kaynaklanmıyor. Uzmanları endişelendiren, “yapay genel zeka”nın ya da A.G.I.’ın yükselişi.
A.G.I. henüz mevcut değil. Ancak bazıları, OpenAI şirketini ChatGPT’sinin hızla artan yetenekleri sayesinde, A.G.I.’ın ortaya çıkışının yakın olduğuna inanıyor. OpenAI’ın kurucularından Sam Altman yapay genel zekayı, “genellikle insanlardan daha zeki olan sistemler” olarak tanımlıyor. Bu tür sistemler inşa etmek hâlâ göz korkutucu -bazılarına göre imkansız- bir görev. Ancak faydaları gerçekten de cezbedici görünüyor.
Artık yerleri süpürmeye mahkum olmayan, çok amaçlı robotlara dönüşen, sabah kahvesi hazırlamaktan veya çamaşırları katlamaktan mutlu olan Roomba’lar hayal edin, hem de tüm bunları yapmak için hiç programlanmadan.
Kulağa cazip geliyor. Ancak bu A.G.I. Roomba’lar çok güçlenirse lekesiz bir ütopya yaratma görevleri, toz yayan insan efendileri için karmaşık hale gelebilir. Ancak şimdilik, en azından iyi bir dönem geçirdik.
A.G.I. tartışmaları kıyamet senaryolarıyla doludur. Yine de akademisyenler, yatırımcılar ve girişimcilerden oluşan ve yeni gelişmekte olan bir A.G.I. lobisi, güvenli hale getirildiğinde A.G.I.’ın uygarlık için bir nimet olacağını savunuyor. Bu kampanyanın yüzü olan Bay Altman, kanun yapıcıları etkilemek için küresel bir tura çıktı. Bu yılın başlarında A.G.I.’ın ekonomiyi hızlandırabileceğini, bilimsel bilgiyi artırabileceğini ve “bolluğu artırarak insanlığı yüceltebileceğini” yazdı.
Teknoloji sektöründeki pek çok zeki insanın bu tartışmalı teknolojiyi geliştirmek için çalışmasının nedeni, bu teknolojiyi dünyayı kurtarmak için kullanmamanın ahlaksızlık gibi görünmesinden kaynaklanıyor.
Savunucuları bu yeni teknolojiyi, kaçınılmaz ve güvenli bir versiyonu olduğu sürece, evrensel olarak faydalı gören bir ideolojiye sahipler; insanlığı düzeltmek ve insanlığın zekasını geliştirmek için daha iyi bir alternatif düşünemiyorlar.
Ancak bu ideoloji -buna A.G.I.’cılık diyelim- yanlıştır. A.G.I.’ın gerçek riskleri politiktir ve asi robotları evcilleştirerek çözülemez. En güvenli A.G.I. bile lobisi tarafından vadedilen her derde deva bir ilaç olmayacaktır. Ve bu ideoloji, A.G.I.’ın ortaya çıkışını kaçınılmaz olarak sunarak bizleri, zekayı artırmanın daha iyi yollarını bulmaktan uzaklaştırıyor.
A.G.I.’cılık, Margaret Thatcher’ın unutulmaz bir şekilde ifade ettiği gibi, piyasanın alternatifi olmadığını vazeden çok daha büyük bir ideolojinin gayrimeşru çocuğudur ve bu ideolojinin savunucuları bu durumun farkında değildir.
Bay Altman’ın ima ettiği gibi A.G.I.’ın kapitalizmi yıkması olasılığı, pek mümkün görünmüyor. Bunun yerine, A.G.I’yı inşa etme çabasının kapitalizmin en yıkıcı davası olan neoliberalizm için güçlü (ve çok daha havalı) bir müttefik yaratma olasılığı daha yüksektir.
Özelleştirme, rekabet ve serbest ticaretten etkilenen neoliberalizmin mimarları, piyasalar ve deregülasyon yoluyla durgun ve emek dostu bir ekonomiyi dinamize etmek ve dönüştürmek istediler.
Bu dönüşümlerin bazıları işe yaradı, ancak bunun çok büyük bir maliyeti oldu. Yıllar içinde neoliberalizm, Büyük Durgunluk ve mali kriz, Trumpizm, Brexit ve daha pek çok şey için onu suçlayan pek çok eleştiriye maruz kaldı.
O halde, Biden yönetiminin piyasaların bazen yanlış yaptığını kabul ederek neoliberalizm ideolojisinden uzaklaşması şaşırtıcı değildir. Vakıflar, düşünce kuruluşları ve akademisyenler post-neoliberal bir gelecek hayal etmeye bile cüret ettiler.
Ancak neoliberalizm ölmekten çok uzak. Daha da kötüsü, A.G.I.’cılık da bir müttefik buldu ve bu müttefik onun temel önyargılarını güçlendirip çoğaltıyor: özel aktörlerin kamu aktörlerinden daha iyi performans gösterdiği (piyasa önyargısı), gerçekliğe uyum sağlamanın onu dönüştürmekten daha iyi olduğu (adaptasyon önyargısı) ve verimliliğin sosyal kaygılardan üstün olduğu (verimlilik önyargısı) önyargıları.
Bu önyargılar A.G.I.’ın arkasındaki cazip vaadi tersine çevirmektedir: Dünyayı kurtarmak yerine onu inşa etme arayışı, işleri daha da kötüleştirecektir. İşte böyle.
A.G.I. Piyasanın Kâr Taleplerinin Üstesinden Asla Gelemeyecektir
Uber’in ucuz fiyatlarıyla şehirlere toplu taşıma sistemleri olarak hizmet vermek için kur yaptığı zamanları hatırlıyor musunuz?
Her şey Uber’in sürücüsüz araçların ve asgari işçilik maliyetlerinin olduğu bir gelecek sayesinde inanılmaz ucuz yolculuklar vadetmesiyle oldukça güzel başlamıştı. Cebi dolu yatırımcılar bu vizyona bayıldı, hatta Uber’in milyarlarca dolarlık zararını bile üstlendi.
Ancak gerçekler ortaya çıktığında sürücüsüz araçlar hâlâ boş bir hayaldi. Yatırımcılar geri dönüş talep etti ve Uber, fiyatları yükseltmek zorunda kaldı. Uber’in halk otobüsleri ve trenlerin yerini alacağına güvenen kullanıcılar ise kaldırımlarda kaldı.
Uber’in iş modelinin arkasındaki neoliberal içgüdü, özel sektörün kamu sektöründen daha iyisini yapabileceğidir: piyasa önyargısı.
Mesele sadece şehirler ve toplu taşıma değil. Hastaneler, polis departmanları ve hatta Pentagon, görevlerini yerine getirmek için giderek daha fazla Silikon Vadisi’ne güveniyor.
A.G.I. ile bu bağımlılık daha da derinleşecek, çünkü A.G.I. kapsamı ve hırsı bakımından sınır tanımıyor. Hiçbir idari kurum ya da devlet hizmeti A.G.I.’ın vadettiği yıkımdan muaf kalmayacaktır.
Dahası, A.G.I.’ın onları cezbetmek için var olması bile gerekmiyor. Her halükarda bu, devrim niteliğindeki kan testi teknolojisiyle sağlık hizmetlerini “çözmeyi” vadeden ve Amerika’nın elitlerinin eski sevgilisi olan Theranos’tan alınmış bir derstir. Teknolojisi hiçbir zaman gerçek olmasa bile kurbanları düpedüz gerçektir.
Uber ve Theranos benzeri pek çok travmadan sonra A.G.I.’ın piyasaya sürülmesinden ne beklememiz gerektiğini zaten biliyoruz. İki aşamadan oluşacak. Birincisi, ağır sübvansiyonlu hizmetlerin cazibe saldırısı. Ardından, aşırı bağımlı kullanıcılar ve kurumların bunları kârlı hale getirme maliyetlerini omuzlamasıyla çirkin bir geri çekilme.
Her zaman olduğu gibi Silikon Vadisi uzmanları piyasanın rolünü küçümsüyor. Önde gelen teknoloji yatırımcılarından Marc Andreessen, “Yapay Zeka Neden Dünyayı Kurtaracak?” başlıklı yakın tarihli bir makalesinde, yapay zekanın “diğer teknolojiler gibi insanlar tarafından sahiplenildiğini ve insanlar tarafından kontrol edildiğini” bile söylüyor.
Yalnızca bir risk sermayedarı böylesine zarif bir örtmece edebiyatı kullanabilir. Modern teknolojilerin çoğu şirketlere aittir. Ve onlar -efsanevi “insanlar” değil- dünyayı kurtarmaktan para kazanacak olanlardır.
Peki, gerçekten dünyayı kurtarıyorlar mı? Şimdiye kadarki veriler zayıf. Airbnb ve TaskRabbit gibi şirketler kuşatılmış orta sınıf için kurtarıcı olarak karşılandı. Tesla’nın elektrikli arabaları ısınan gezegen için bir çare olarak görüldü. Yemek yerine geçen içecek Soylent, küresel açlığı “çözme” misyonunu üstlenirken Facebook, Küresel Güney’deki internet bağlantı sorunlarını “çözme” sözü verdi. Bu şirketlerin hiçbiri dünyayı kurtarmadı.
On yıl önce buna çözümcülük adını vermiştim, ancak “dijital neoliberalizm” kavramı da aynı şekilde bu duruma uygun olacaktır. Bu dünya görüşü, sosyal sorunları kâr amaçlı teknolojik çözümler ışığında yeniden çerçevelendiriyor. Sonuç olarak kamusal alana ait olan kaygılar, pazarda girişimcilik fırsatları olarak yeniden tasarlanıyor.
A.G.I.’cılık bu çözümcü coşkuyu yeniden alevlendirdi. Geçen yıl Bay Altman, “A.G.I. insanlığın hayatta kalması için muhtemelen gerekli, çünkü sorunlarımız daha iyi araçlar olmadan çözemeyeceğimiz kadar büyük görünüyor” demişti. Yakın zamanda da A.G.I.’ın insanlığın gelişmesi için bir katalizör olacağını iddia etti.
Ancak şirketlerin kâra ihtiyacı vardır ve özellikle yatırımcıların milyarlarını yakan kârsız firmalardan böyle bir yardımseverlik nadiren beklenir. Microsoft’tan milyarlar alan OpenAI, A.G.I.’yı inşa etmek için 100 milyar dolar daha toplamayı düşünüyor. Şaşırtıcı ve görünmez maliyetlerine karşı bu yatırımların geri kazanılması gerekecek. (Şubat ayında yapılan bir tahmine göre ChatGPT’yi işletmenin maliyeti günlük 700.000 dolardı).
Dolayısıyla, bir A.G.I. hizmetini kârlı hale getirmek için agresif fiyat artışları ile çirkin küçülme aşaması, “bolluk” ve “gelişmeden” önce gelebilir. Ancak o zamana kadar kaç tane kamu kurumu kararsız pazarları uygun fiyatlı teknolojilerle karıştırır ve OpenAI’ın pahalı tekliflerine bağımlı hale gelir?
Ve eğer şehrinizin toplu taşımayı kırılgan bir start-up’a devretmesinden hoşlanmıyorsanız sosyal yardım hizmetlerini, atık yönetimini ve kamu güvenliğini, muhtemelen daha da kırılgan olan A.G.I. firmalarına devredilmesini ister miydiniz?
A.G.I. En Çetin Sorunlarımızı Çözmeden Acıları Hafifletecektir
Neoliberalizm, toplumun acılarını katlanılabilir kılmak için teknolojiyi seferber etmekte ustadır. 2017’de Chicago metrosunda işe gidip gelenlerin kullanımını iyileştirmeyi vadeden yenilikçi bir teknoloji girişimini hatırlıyorum. Metro yolcularını yoğun saatlerde seyahat etmekten caydırmak için ödüller sunuyordu. Yaratıcıları, arz tarafındaki yapısal değişiklikleri (toplu taşıma fonlarını artırmak gibi) çok zor görerek talep tarafını (yolcuları) etkilemek için teknolojiden yararlandı. Teknoloji, halkın ihtiyaçlarını karşılamak için altyapıyı düzeltmek yerine, Chicago’luların şehrin kötüleşen altyapısına uyum sağlamasına yardımcı olacaktı.
Bu, adaptasyon önyargısıdır -teknolojik bir sihirli değnekle içinde bulunduğumuz kötü duruma karşı duyarsızlaşma arzusu. Bu durum ise neoliberalizmin kendine güven ve dayanıklılık konusundaki amigo’luğunun bir ürünüdür.
Mesaj açık: Vites yükseltin, insan sermayenizi geliştirin ve bir start-up gibi rotanızı çizin. Ve A.G.I.’cılık bu melodiyi yankılamaktadır. Bill Gates, yapay zekanın “her yerdeki insanların yaşamlarını iyileştirmelerine yardımcı olabileceğini” söyledi.
Çözümcü şölen daha yeni başlıyor: İster bir sonraki salgınla, ister yalnızlık salgınıyla ya da enflasyonla mücadele olsun, yapay zeka şimdiden pek çok gerçek ve hayali çivi için çok amaçlı bir çekiç olarak sunuluyor. Ancak, çözümcü çılgınlık yüzünden kaybedilen on yıl, bu tür teknolojik çözümlerin sınırlarını ortaya koyuyor.
Elbette, Silikon Vadisi’nin harcamalarımızı, kalorilerimizi ve egzersiz rejimlerimizi izlemeye yönelik pek çok uygulaması (app) zaman zaman bizlere yardımcı oluyor. Ancak bunlar, çoğunlukla yoksulluğun ya da obezitenin altında yatan temel nedenleri görmezden geliyor. Ve nedenlerle mücadele etmeden, dönüşüm değil adaptasyon alanında sıkışıp kalıyoruz.
Yürüyüş rutinlerimizi takip etmemiz için bizi dürtmekle -bireysel adaptasyonu destekleyen bir çözüm- kentlerimizde neden yürünecek kamusal alanların olmadığını anlamak arasında fark vardır -kolektif ve kurumsal dönüşümü destekleyen politika dostu bir çözüm için ön koşul.
Ancak neoliberalizm gibi A.G.I.’cılık da kamu kurumlarını hayal gücü olmayan ve özellikle üretken olmayan kurumlar olarak görür. En azından kısa bir süre önce “kurumlarımızın uyum sağlama hızı” konusunda endişeli olduğunu söyleyen Bay Altman’a göre kurumlar, yalnızca A.G.I.’ya uyum sağlamalıdır – “bu sistemleri gerçekten zayıfken, çok erken uygulamaya başlamak istememizin nedenlerinden biri de budur, böylece insanların bunu yapmak için mümkün olduğunca fazla zamanı olur.”
Peki, kurumlar yalnızca uyum mu sağlamalı? İnsanlığın zekasını geliştirmek için kendi dönüştürücü gündemlerini geliştiremezler mi? Yoksa kurumları sadece Silikon Vadisi’nin kendi teknolojilerinin risklerini azaltmak için mi kullanıyoruz?
A.G.I. Sivil Erdemlerin Altını Oyuyor ve Hâlihazırda Hoşlanmadığımız Eğilimleri Güçlendiriyor
Neoliberalizme yönelik yaygın bir eleştiri, siyasi hayatımızı düzleştirdiği ve verimlilik etrafında yeniden düzenlediğidir. Neoliberal kanonun bir klasiği haline gelen 1960 tarihli bir makale olan “Sosyal Maliyet Sorunu”, çevreyi kirleten bir fabrika ile mağdurlarının anlaşmazlıklarını mahkemeye taşıma zahmetine girmemeleri gerektiğini vaaz eder. Bu tür kavgalar verimsizdir -zaten kimin adalete ihtiyacı var ki?- ve piyasa faaliyetlerinin önünde engel teşkil eder. Bunun yerine taraflar, tazminat konusunda özel olarak pazarlık yapmalı ve işlerine devam etmelidir.
Verimlilik konusundaki bu saplantı, en kötü suçluların eskisi gibi devam etmelerine izin vererek iklim değişikliğini “çözmeye” çalışmamızdır. Düzenlemenin prangalarından kurtulmanın yolu, kirleticilerin saldıkları ekstra karbonla eşleşecek krediler satın almalarını sağlayan bir plan -bu durumda karbonu vergilendirmek- tasarlamaktır.
Piyasaların her şeyin değerini ölçtüğü ve adaletin yerine geçtiği bu verimlilik kültürü, kaçınılmaz olarak sivil erdemleri aşındırmaktadır. Ve bunun yarattığı sorunlar her yerde görülebilir. Akademisyenler, neoliberalizm altında araştırma ve öğretimin meta haline gelmesinden yakınıyor. Doktorlar, hastanelerin acil bakım yerine elektif cerrahi gibi daha kârlı hizmetlere öncelik vermesinden yakınıyor. Gazeteciler, makalelerinin değerinin göz ile bakılarak ölçülmesinden nefret ediyor.
Şimdi A.G.I.’yı bu saygın kurumlara -üniversite, hastane, gazete- onları “düzeltmek” gibi asil bir misyonla saldığınızı düşünün. Bu kurumların üstü kapalı sivil misyonları A.G.I. için görünmez kalacaktır, çünkü bu misyonlar yıllık raporlarda bile nadiren ölçülmektedir -A.G.I.’ın arkasındaki modellerin eğitiminde kullanılan türden materyaller.
Sonuçta kim Rönesans tarihi üzerine verdiği dersi yalnızca bir avuç öğrencinin aldığını söyleyerek övünmek ister ki? Ya da uzak bir ülkedeki yolsuzlukla ilgili bir makalesinin yalnızca bir düzine sayfa görüntülemesi aldığını? Verimsiz ve kârsız olan bu tür aykırı kurumlar, mevcut sistemde bile mucizevi bir şekilde ayakta kalmaktadır. Kurumların diğer kısımları, kâr odaklı “verimlilik” dışındaki değerlere öncelik vererek onları sessizce sübvanse ediyor.
A.G.I. ütopyasında da durum böyle mi olacak? Yoksa kurumlarımızı A.G.I. aracılığıyla düzeltmek, onları acımasız danışmanlara teslim etmek gibi mi olacak? Onlar da verimliliği en üst düzeye çıkarmak için veri destekli “çözümler” sunuyorlar. Ancak bu çözümler genellikle kurumların kalbinde yer alan değerlerin, misyonların ve geleneklerin karmaşık etkileşimini kavramakta başarısız oluyor -sadece veri yüzeyini kaşımak suretiyle nadiren görülebilen bir etkileşim.
Aslında ChatGPT benzeri hizmetlerin olağanüstü performansı -tasarım gereği- gerçekliği, veri yüzeyinin ötesinde daha derin bir düzeyde kavramayı reddetmesidir. Daha önceki yapay zeka sistemleri açık kurallara dayanırken ve Newton gibi birinin yerçekimini teorize etmesini gerektirirken -elmaların nasıl ve neden düştüğünü sormak- A.G.I. gibi daha yeni sistemler, milyonlarca elmanın yere düştüğünü gözlemleyerek yerçekiminin etkilerini tahmin etmeyi öğreniyor.
Ancak, A.G.I.’ın gördüğü tek şey hayatta kalmak için mücadele eden ve nakit sıkıntısı çeken kurumlarsa onların gerçek ethosunu asla anlamayabilir. Kâr merkezine dönüştürülen hastaneleri gözlemleyerek Hipokrat yemininin anlamını kavramakta iyi şanslar!
Margaret Thatcher’ın bir diğer ünlü neoliberal sözü de “toplum diye bir şey yoktur” idi. A.G.I. lobisi de farkında olmadan bu acımasız görüşü paylaşmaktadır. Onlara göre, geliştirilmeye değer zeka türü, toplumun genelinden ziyade bireylerin kafalarında olup bitenlerin bir fonksiyonudur.
Ancak insan zekası, genlerin ve bireysel yeteneklerin olduğu kadar politikaların ve kurumların da bir ürünüdür. Kongre Kütüphanesi’nde burslu olarak çalışırken zeki olmak, kitapçısı ve hatta düzgün bir Wi-Fi’ı bile olmayan bir yerde birkaç işte birden çalışırken zeki olmaktan daha kolaydır.
Daha fazla burs ve halk kütüphanesinin insan zekasını artırmak için harikalar yaratacağını öne sürmek o kadar da tartışmalı görünmüyor. Ancak Silikon Vadisi’ndeki çözümcü kalabalığa göre zekanın artırılması öncelikle teknolojik bir sorun -dolayısıyla A.G.I. konusundaki heyecan da bundan kaynaklanıyor.
Bununla birlikte, eğer A.G.I.’cılık gerçekten başka şekillerde bir neoliberalizm ise o zaman daha az -daha fazla değil- zeka geliştirici kurumlar görmeye hazır olmalıyız. Ne de olsa bunlar, neoliberaller için gerçekte var olmayan o korkunç “toplumun” kalıntılarıdır. A.G.I.’ın zekayı güçlendirmeye yönelik büyük projesi, zekayı küçültmekle sonuçlanabilir.
Bu tür çözümcü önyargılar nedeniyle A.G.I. ile ilgili görünüşte yenilikçi politika fikirleri bile yeterince heyecan vermiyor. Yakın zamanda ortaya atılan “Yapay Zeka Güvenliği için Manhattan Projesi” önerisini ele alalım. Bu öneri, A.G.I.’ın alternatifi olmadığı gibi bir yanlış fikre dayanıyor.
Hükümet bunun yerine kültür, eğitim ve bunları besleyen kurumlar için bir Manhattan Projesi finanse etseydi, zekayı artırma arayışımız çok daha etkili olmaz mıydı? Bu tür çabalar olmadan mevcut kamu kurumlarımızın geniş kültürel kaynakları, A.G.I. start-up’ları için sadece eğitim veri setleri haline gelme riski taşır ve toplumun var olmadığı yanlışını güçlendirir.
Robot isyanının nasıl geliştiğine (ve gelişip gelişmeyeceğine) bağlı olarak A.G.I., varoluşsal bir tehdit olabilir de olmayabilir de. Ancak anti-sosyal eğilimi ve neoliberal önyargıları ile A.G.I.’cılık zaten varoluşsal bir tehdit: Bu ilkeleri sorgulamak için sihirli Roomba’ları beklememize gerek yok.
https://daktilo1984.com/ceviriler/yapay-zekanin-asil-tehlikesi/
