Son yıllarda yapay zekâ alanında yaşanan baş döndürücü gelişmeler, teknoloji dünyasını heyecanlandırırken bir yandan da derin endişelere yol açıyor. Bugün dar yapay zekâ (artificial narrow intelligence-ANI) olarak adlandırılan sistemlerin, önümüzdeki yıllarda önce genel yapay zekâ (artificial general intelligence-AGI), sonra da süper yapay zekâ (artificial super intelligence-ASI) seviyesine ulaşabileceği öngörüleri, giderek daha fazla uzman tarafından dile getiriliyor. Üstelik tüm bu sürecin 5-6 yıl gibi kısa bir zaman alacağı belirtiliyor. ASI, sadece belirli alanlarda değil, bilimsel özgünlük, genel bilgelik, sosyal beceriler ve problem çözme dahil olmak üzere neredeyse her alanda tüm insanlığın kolektif zekâsını aşan bir seviyeyi temsil ediyor. Peki, teknolojinin bu denli hızlı ilerlemesi, gerçekten de "ürkütücü" bir tablo ortaya koymuyor mu?
Â
Hiçbir Şey Boş Yere Değil!
2024 verilerine göre, son teknoloji yapay zekâ modellerinin eğitim maliyetleri, astronomik seviyelere ulaşmıştır; OpenAI'nin GPT-4 modelinin eğitimi için tahmini 78 milyon dolarlık, Google'ın Gemini Ultra modeli için ise 191 milyon dolarlık hesaplama gücü kullanıldığı belirtilmektedir. Buna rağmen, özellikle üretken yapay zekâ alanına yapılan özel sektör yatırımları rekor kırmaya devam etmektedir. 2024’te ABD'deki özel yapay zekâ yatırımları 109.1 milyar dolara ulaşmış, küresel olarak üretken yapay zekâya yapılan özel yatırım 33.9 milyar doları bulmuştur. Yapay zekâ model parametre sayısı, 2010'dan bu yana yaklaşık her yıl ikiye katlanırken, eğitim için kullanılan hesaplama gücü ise her altı ayda bir ikiye katlanmaktadır.
Tüm bu yatırımlar elbette boş yere yapılmıyor. Stanford Üniversitesi İnsan Odaklı Yapay Zekâ Enstitüsü'nün Yapay Zekâ Endeksi Raporu'na göre, yapay zekâ sistemleri görüntü sınıflandırma, görsel akıl yürütme ve dil anlama gibi belirli görevlerde insan performansını çoktan aşmış durumdadır. 2023'te tanıtılan MMMU, GPQA ve SWE-bench gibi zorlu yeni benchmark'larda bir yıl içinde keskin performans artışları gözlemlenmiştir. Yüksek kaliteli video üretimi ve bazı programlama görevlerinde de yapay zekâ ajanları, insanlardan daha iyi performans göstermektedir.
Â
İnsanlığın En Büyük Sorunu mu?
Harcanan bunca para ve gelişim hızı, ister istemez kaygıları da beraberinde getiriyor. Endişeleri dile getiren isimlerden biri olan Tesla ve SpaceX'in kurucusu Elon Musk olmuştur. ASI'yi defalarca "insanlığın karşı karşıya olduğu en büyük varoluşsal tehdit" olarak nitelendirmiştir ve makinelerin 2026’ya kadar insan zekâsını aşabileceğini öngörmektedir. Ona göre, ASI'nin potansiyel tehlikesi, "nükleer silahlardan" bile daha büyüktür. Musk, beyin-bilgisayar arayüzleri geliştiren şirketi Neuralink'in bir amacının da insan zekâsını yapay zekâ ile birleştirerek bu varoluşsal riski azaltmak veya insanlığın yapay zekâ ile simbiyotik bir ilişki kurmasını sağlamak olduğunu belirtmiştir. Öte yandan, hayatını kaybetmeden önce, fizikçi Stephen Hawking de benzer kaygıları paylaşmış, "yapay zekânın gelişmesi, insan ırkının sonunu getirebilir" demiştir. Oxford Üniversitesi Felsefe Profesörü Nick Bostrom ise ASI'nin kontrol problemini "insanlığın karşılaştığı en önemli ve en büyük sorun" olarak tanımlamış ve çözülemezse, ASI'nin büyük olasılıkla insanlığı yok edebileceğini belirtmiştir. Derin öğrenme alanındaki öncü çalışmalarıyla "yapay zekânın vaftiz babası (the godfather of AI)" olarak tanınan ve bu çalışmalarından biriyle 2024 Nobel Fizik ödülünü alan Prof. Dr. Geoffrey Hinton, yapay zekânın beklenenden çok daha hızlı geliştiğini ve insanlığı yok etme ihtimalinin yüzde 10 ila yüzde 20 arasında olduğunu belirtmiştir. Hinton, 2023’te yapay zekânın tehlikeleri hakkında daha özgürce konuşabilmek için uzun yıllardır çalıştığı Google'daki görevinden ayrılmış, yapay zekânın beklenenden çok daha kısa bir sürede, insanlardan daha akıllı hale gelebileceğini fark ettiğini açıklamıştır. Hatta bir röportajında alandaki bazı katkılarından pişman olduğunu, "ben bulmasaydım mutlaka başkası bulacaktı" cümlesiyle teselli bulduğunu belirtmiştir.
Adı geçen kişiler, yapay zekâ dünyasının duayenleri ve bu alanın gelişimine en önemli katkıları vermiş olan insanlardır. Peki yukarıda verilen düşüncelerinin şekillenmesinde hangi gelişmeleri göz önünde bulunduruyorlar? Örneğin, ASI'nin yol açabileceği potansiyel riskler arasında, kitlesel işsizlik ve artan gelir eşitsizliği öne çıkmaktadır. Goldman Sachs'ın analizine göre, 2030’a kadar dünya genelinde tahminen 300 milyon tam zamanlı iş, yapay zekâ destekli otomasyon nedeniyle kaybedilecektir. Başlangıçta düşük vasıflı işlerin risk altında olduğu düşünülse de ASI'nin yüksek problem çözme ve özgünlük yetenekleri göz önüne alındığında, beyaz yakalı meslekler ve hatta geleneksel olarak "güvenli" kabul edilen özgün ve entelektüel işler dahi tehdit altına girebilmektedir. Bu durum, zenginlik ve gücün ASI teknolojilerini geliştiren ve kontrol eden küçük bir elit kesimin elinde toplanmasına, toplumun geniş kesimlerinin ekonomik olarak dışlanmasına rahatlıkla neden olabilir ve radikal sosyal politika müdahalelerini zorunlu hale getirebilir. Bunun bir sonucu olarak da dünyada kitlesel halk hareketlerinin ve siyasi çalkantıların olması önemli bir ihtimal olarak görülmektedir.
Yapay zekâ ajanlarının özyinelemeli şekilde kendini geliştirme yeteneği (recursive self-improvement), insanların öngöremeyeceği karmaşıklıkta planlar yapma ve otonom hareket etme kapasitesi; toplumsal yapıları, insan ilişkilerini ve bireylerin yaşamlarını temelden değiştirebilecek bir güce işaret etmektedir. İnsan-makine etkileşiminin artması sonucu geleneksel insan ilişkilerinin zayıflayabileceği, bunun sosyal izolasyonu tetikleyebileceği ve böylece insanın özerkliğinin ve özgünlüğünün aşınacağı değerlendirilmektedir. ASI destekli sistemler, bireylerin davranışlarını, tercihlerini ve hatta düşüncelerini tahmin etme ve etkileme yeteneğine sahip olduğunda bireysel özgürlükler ve mahremiyet için ciddi bir tehdit oluşacaktır.
Derin sahte (Deepfake) gibi uygulamalarla üretilen sahte içeriklerin ASI marifetiyle çok daha sofistike ve ikna edici hale gelmesi; toplumsal kaosa, siyasi istikrarsızlığa ve bireylerin gerçeği ayırt etme yeteneğinin sarsılmasına neden olma potansiyelini barındırmaktadır. Belki de en endişe verici senaryo, "zekâ patlaması" olarak adlandırılan, ASI'nın kısa bir süre içinde insan kavrayışının çok ötesine geçebileceği olasılığıdır. Bu senaryoda, ASI'nın zekâsı ve yetenekleri, insanlar tepki verme, uyum sağlama veya müdahale etme şansı bulamadan, çok kısa bir süre içinde -belki günler, saatler veya hatta saniyeler içinde- insan kavrayışının çok ötesine geçebilecektir. Günümüzde bile mevcut yapay zekâ sistemlerinin birçok riski izlenmektedir. Örneğin, Yapay Zekâ Olay Veritabanı (AI Incident Database), halihazırda yapay zekânın neden olduğu dezenformasyon, manipülasyon, kişisel veri ihlalleri ve diğer veri suçları vakalarını kaydetmekte, bu tür olayların ASI'nin gelişimiyle çok daha tehlikeli boyutlara ulaşabileceği endişesini güçlendirmektedir. Benzer şekilde MIT'nin risk veri tabanında (AI Risk Repository) literatürde bahsedilen bin 600 risk kategorize edilmiştir. Bu kadar fazla riski barındıran başka bir teknoloji henüz bilinmemektedir.
Ürkütücü Tablonun Kontrolü
Tüm bunların yanında, yapay zekâ güvenliği araştırmalarına ve etkili düzenlemelere yatırım, teknik gelişimin hızına yetişememektedir. Stanford Üniversitesi'nin endeks raporuna göre, yapay zekâ ile ilgili olaylar keskin bir şekilde artarken, büyük endüstriyel model geliştiricileri arasında sorumlu yapay zekâ uygulamalarının standartlaştırılmış değerlendirmeleri hâlâ nadiren görülmektedir. Yapay zekâ geliştiren şirketlerin yüzde 83'ü yapay zekâyı iş planlarında en önemli önceliklerden biri olarak görmekte, ancak güvenlik ve etik konuları ancak alt sıralarda kendine yer bulabilmektedir.
Bu ürkütücü tablo karşısında, dünya genelinde çeşitli araştırma kuruluşları ve girişimler harekete geçmiş durumdadır. MIT (Massachussets Institute of Techology), MIRI (Machine Intelligence Research Institute), FHI (Future of Humanity Institute), CSER (Centre for the Study of Existential Risk) ve Anthropic gibi kuruluşlar, ASI'nın güvenli ve insan değerleriyle uyumlu bir şekilde geliştirilmesi için çalışmalar yürütmektedir. Özellikle yapay zekâ hizalama (alignment) problemi üzerine odaklanan bu çalışmalar, YZ sistemlerinin hedeflerini insan değerleriyle uyumlu hale getirmeyi amaçlamaktadır. Bu araştırmalar, insan geri bildiriminden öğrenme, tersine pekiştirmeli öğrenme, ödül modelleme ve yorumlanabilirlik gibi yaklaşımları içermektedir.
ASI'nin risklerini azaltmak için OECD Yapay Zekâ İlkeleri, Avrupa Birliği Yapay Zekâ Tüzüğü ve NIST Yapay Zekâ Risk Yönetim Çerçevesi gibi uluslararası girişimler de geliştirilmiş durumdadır. Özellikle AB, kendini regülatör olarak konumlandırmaktadır. AB'nin Yapay Zekâ Tüzüğü, dünyanın ilk kapsamlı ve yasal olarak bağlayıcı YZ düzenleyici çerçevesi olarak, uygulamaları risk seviyelerine göre sınıflandırmakta ve yüksek riskli sistemler için katı yönetişim, risk yönetimi, veri kalitesi, şeffaflık ve insan gözetimi gereklilikleri öngörmektedir. Bunların yanı sıra, birçok şirket ve kurum da kendi bünyesinde yapay zekâ etik kurulları veya komiteleri oluşturarak geliştirdikleri YZ ürün ve hizmetlerinin kendi etik ilkeleri ve toplumsal değerlerle uyumlu olmasını sağlamaya çalışmaktadır.
Tüm bu karanlık senaryolara rağmen, geleceğe dair umutlu olma sebeplerimiz de var elbette. İnsan zekâsı her zaman kendisinin ürettiği tehditlerle başa çıkma konusunda benzersiz bir uyum yeteneği göstermiştir. Uluslararası iş birliği ve şeffaflık artırılarak, yapay zekâ güvenliği ve etiği alanındaki araştırmalara öncelik verilerek ve toplumsal bilinç yükseltilerek ASI'nin potansiyel riskleri azaltılabilir. Özellikle yapay zekâ hizalama çalışmaları, makinelerin insan değerleriyle uyumlu çalışmasını sağlama konusunda umut vaat ediyor. Temelde, teknolojinin insanlığa hizmet etmesi ve değerlerimizi yüceltmesi için çalışmalıyız. Özellikle devletlerden daha büyük hale gelen dev teknoloji firmaları arasında şu anda bir prestij kazanma yarışı ve rekabet yaşanıyor. ASI'nin gelişimi kaçınılmaz görünse de, bu gelişimin yönünü ve etkilerini şekillendirme gücü bizim elimizdedir. İnsanın özgünlüğa, ahlaki değerleri ve kolektif zekâsı, karanlık bir geleceği aydınlık bir geleceğe dönüştürmek için en güçlü araçlarımızdır. İnsanlık olarak, teknolojik ilerlemeyi korkmadan ama sorumlulukla yönetebilir, ASI'yi hastalıkların tedavisi, iklim değişikliğiyle mücadele, yoksulluğun azaltılması ve bilimsel keşiflerin hızlandırılması gibi insanlığın en zorlu sorunlarına çözüm bulmak için kullanabiliriz. İnsanlık yararına bilinçli ve sorumlu adımlar atılır ve kapsayıcı küresel düzenlemeler yapılırsa gelecek karanlık değil. Bu yolculuk belki de türümüzün karşılaştığı en büyük sınav olacaktır.
Â
