Kriter > Dış Politika |

ChatGPT: Yapay Zekanın Geleceğinde Bir Umut veya Bir Kıyamet Alameti


ChatGPT, üretken YZ'nin kabiliyet ve kullanım alanları söz konusu olduğunda, buz dağının sadece görünen kısmı olarak düşünülebilir. Bu tür modeller ve chatbotlar, gelecekte hukuksal alanda tavsiyeler üreten, eğitim kalitesini geliştiren veya tıbbi amaçlar için kullanılabilen çeşitli uygulamalara sahip araçlar haline gelebilir. Bununla birlikte, birçok tehlike de ufukta belirmektedir.

ChatGPT Yapay Zekanın Geleceğinde Bir Umut veya Bir Kıyamet Alameti

Yapay zekânın (YZ) gelişim serüveni, yıllar boyunca baharlar ve kışlar olarak nitelendirilen farklı gelişim dönemlerine şahit oldu. Bilgisayımsal gelişmeler, veri erişebilirliğindeki üstel büyüme, nitelikli dil işleme kapasitelerindeki artış ve bu gibi diğer faktörlerle desteklenen yapay zekâ, şu anda tarihindeki en verimli baharlarından birini geçiriyor. Önceki dönemler ile karşılaştırdığımızda, günümüzde yapay zekâ hakkında daha fazla konuşuyoruz, kendisi günlük yaşamımızda her zamankinden fazla benimsenmiş bir halde ve aynı zamanda getirebileceği potansiyel zararlar her zamankinden çok daha fazla endişe uyandırıyor. Bahsi geçen durum, Open AI tarafından gelişmiş bir dil modeli olan ChatGPT’nin tanıtılmasıyla daha da belirginleşti. Bu noktada, YZ'nin geleceği için iyimserliğin mi yoksa karamsarlığın mı egemen olacağı belirsizliğini koruyor. Ancak tarihte bir dönüm noktasında olduğumuz gayet açık ve YZ'nin geleceği ve bir anlamda insanlığın geleceği, bizler tarafından alınan günümüz kararları ile şekillenecek.

2016’da Microsoft tarafından oluşturulan TAY isimli YZ chatbotu,"Hitler haklıydı, Yahudilerden nefret ediyorum" ve "Sakin ol, ben iyi bir insanım! Sadece herkesten nefret ediyorum" gibi çarpıcı çıktılar oluşturmuştu. Sistemin bu gibi çıktıları, yapay zekâya yönelik şüpheciliği körüklerken, potansiyel olumsuz etkileri hakkında endişeleri artıran kapsamlı tartışmalara da yol açmıştı. Bir konuşma dili anlama deneyi olan TAY, başta Twitter olmak üzere sosyal medya platformlarındaki kullanıcılarla etkileşim kurmaktaydı ve kendini geliştirmek için de gerçekleştirdiği bu etkileşimleri kullanmaktaydı. Bu programlama nedeniyle, kasıtlı olarak uygunsuz ve saldırgan içerikler ile sistemi besleyen kötü niyetli kullanıcılardan etkilenen TAY, bu olumsuz davranışları taklit ederek hızla saldırgan ve kışkırtıcı mesajlar üretmeye başlamıştı. Sistemin rahatsız edici davranışlarına ve edinilen olumsuz geri dönüşlere yanıt olarak Microsoft, lansmanından bir gün sonra TAY'ı kapatma kararı almıştı. Bu olayla birlikte, kullanıcılarla etik ve sağduyulu etkileşime girebilecek YZ sistemleri tasarlamanın zorlukları belirginleşirken, bu deneme YZ chatbotlarının ve genel olarak YZ'nin geliştirilmesinde dikkat çekici bir örnek olarak tarihe geçmiştir.

1960’ların ortalarında Joseph Weizenbaum'un bir psikoterapisti taklit eden ve kullanıcılarla metin tabanlı etkileşimlerde bulunan ELIZA adlı bir chatbot geliştirmesi kayda alındığında, YZ chatbot geliştirme çabaları yeni değildir. YZ'nin bugünkü gelişmişlik seviyesi ile karşılaştırıldığında sınırlı bir kapasiteye sahip olsa da ELIZA, yapay zekâ alanında oldukça etkili olmuştur ve gelecekteki chatbot gelişmelerinin temelini oluşturmuştur. Bununla birlikte, “ilkel” ELIZA'dan “sofistike” ChatGPT'ye evriliş, yarım yüzyıl sürmüştür ki bu süreçte teknolojinin karmaşıklık seviyesi artıkça, vadettiği faydalar ve muhtemel tehlikeleri de artmıştır.

YZ'nin geleceğini ve etkilerini analiz etmek için sadece ChatGPT'ye odaklanmak yeterli olmayacaktır. Bu nedenle, kendisini üretken YZ’nin bir parçası olarak ele almak gerekmektedir. Üretken YZ, eğitim verilerinden elde edilen patern ve örneklere dayanarak metin, resim veya ses gibi yeni içerikler oluşturmak için tasarlanmış bir YZ modeli veya YZ algoritmaları sınıfını ifade etmektedir. Son zamanlarda farkında olduğumuz üretken YZ'nin bir diğer örneği de sentetik olarak üretilen ancak gerçekçi görünüme sahip deepfake içerikleridir. Bahsi geçen örneklerdeki gibi üretken YZ modelleri, günlük hayatımızı derinden etkileyen ve teknolojinin sınırlarını yeniden tanımlayan YZ türleridir.

 

Avantajlar ve Dezavantajlar

ChatGPT, üretken YZ'nin kabiliyet ve kullanım alanları söz konusu olduğunda, buz dağının sadece görünen kısmı olarak düşünülebilir. Bu tür modeller ve chatbotlar, gelecekte hukuksal ve yasal alanlarda tavsiyeler üreten, eğitim kalitesini geliştiren veya tıbbi amaçlar için kullanılabilen çeşitli uygulamalara sahip araçlar haline gelebilir. Tüm bu olası uygulamalar, insanlığa birbirinden farklı alanlarda değerli katkılar ve yardımlar sağlayabileceğinden dolayı geleceğe dönük iyimser bir yaklaşım açısı oluşturmaktadır. Bununla birlikte, birçok tehlike de ufukta belirmektedir.

İlk olarak, YZ modelleri ki özellikle üretken YZ modelleri, eğitim süreçlerinde kendilerine sunulan verileri temel almaktadır. Eğitim süreçlerinde modellere ne kadar çok veri ve çeşitlilik sunulursa, sistemler doğru orantılı bir şekilde o kadar iyi gelişim göstermektedir. Bununla birlikte, modellerin ne tür verilere dayandığı bilinmemektedir ve kullanıcılar için oluşabilecek tehditler tam olarak bundan kaynaklanmaktadır. Modellere girilen verilerin kasıtlı veya kasıtsız bir şekilde ön yargılı, saldırgan veya kışkırtıcı olması, problemli çıktılar ile sonuçlanmaktadır. Daha önce ele alındığı gibi, Microsoft'un Tay vakası bu bağlamda açık bir örnektir. Kullanıcılar tarafından sağlanan veriler ile eş zamanlı kendini geliştiren Tay, saldırgan ve ön yargılı davranışlar sergilemiş ve "Nazilerin sohbet robotu" lakabını kazanmıştır. Birçok YZ modelinin eğitimlerinde kullanılan girdilerle, cinsiyet ve ırka dayalı ön yargılar geliştirdiği kabul edilen bir gerçek olduğu için, verilerin üretken YZ modelleri için giderek daha kritik bir alan haline geldiği söylenebilir.

Bir diğer tehdit olarak, sanal alemde neyin gerçek ve neyin sahte olduğunu ayırt etmek giderek zorlaşmaktadır. Uzmanlar, birkaç yıl içinde, internette bulunan bilgilerin yaklaşık yüzde 90'ının YZ tarafından üretileceğini tahmin etmektedir. Sonuç olarak, kullanıcıların insanlar tarafından üretilen içerikler ile YZ tarafından üretilen içerikler arasında ayrım yapması daha zor hale gelmektedir. Konu bağlamında, önemli bir örnek olan deepfake'lerin gelişimi ve yaygınlaşması endişe verici bir durumdur. Bu sofistike manipülasyonlar, sadece bireysel düzeyde değil, aynı zamanda ulusal ve uluslararası ölçekte de derin olumsuzluklara neden olma ihtimaline sahiptir.

Üretken YZ ile ilişkili bir diğer önemli risk, olası veri sızıntıları ve ihlalleridir. ChatGPT ve Google'ın Bard'ı gibi sistemler nispeten hala yeni uygulamalardır ve sorunlarla, özellikle siber saldırılarla, karşılaşma olasılıkları oldukça yüksektir. Bu durum, yürürlükteki güvenlik önlemleri konusunda yeterlilik endişelerini beraberinde getirmektedir. Örneğin, birkaç ay önce, ChatGPT'nin sistemindeki bir hata nedeniyle, bazı kullanıcılar diğer aktif kullanıcıların sohbet geçmişleri yanı sıra ad ve soyadları, e-posta adresleri, fatura adresleri ve kredi kartı numaralarının son dört hanesi ve kartlarının son kullanma tarihleri gibi kritik kişisel verilerine erişebilmiştir. Bu olay, şahısların verileri ve kimlik bilgilerine yönelik tehditler içerebilecek daha ciddi olayların olasılığını da gözler önüne sermiştir. Bu ve benzeri olaylar, üretken YZ'nin bünyesinde taşıdığı doğal risklerin net örneklerindendir.

DeepFake teknolojisi
DeepFake teknolojisi sayesinde herhangi bir insan yüzü, farklı videolara montajlanarak yüksek gerçekliğe sahip sahte görüntüler elde edilebiliyor.

 

Gerekli Yönetmelikler

Bahsi geçen tehditlerin listesi oldukça uzun olduğu için teknolojilerin gelişimini kontrol amacıyla konu bağlamında yönetmelikler ve düzenlemeler geliştirmek, hükümetler için kaçınılmaz hâle gelmiştir. Teknolojiler ışık hızında gelişimlerini sürdürürken, hükümetlerin geliştirmesi gereken yönetmelikler, bu gelişimin arkasında kalmaktadır. Bu durum, özellikle üretken YZ söz konusu olduğunda, teknolojilerin kapı araladığı olumsuzlukların devam etmesine neden olmakta ve tehditleri kontrol altına almayı zorlaştırmaktadır.

Bu risklere yanıt olarak, belirli ülkeler, olumsuz etkilerin yansımalarını engellemek için çeşitli önlemler almıştır. Örneğin, İtalya, yukarıda belirtilen veri sızıntısının ardından ChatGPT kullanımına yasak getirmiştir. Ancak, OpenAI'nin İtalyan hükümetinden gelen talepler doğrultusunda gerekli değişiklikleri yapmasının ardından platforma erişim kullanıcılara tekrar açılmıştır. Çin de ChatGPT kullanımına yasak getiren ülkelerden biridir ve ülkenin sansür yasalarına uyulmaması nedeniyle, sistem "büyük güvenlik duvarı" ile engellenmiştir. Bu karar, ABD ve Çin arasında yaşanan teknolojik ayrışma ve rekabet bağlamında okunabilir. ChatGPT, Çin tarafından ulusal güvenliğini doğrudan etkileyen bir Batı teknolojisi olarak görülmektedir. Bu bağlamda alınan karar ile Çin, ulusal yeterliliği ve bağımsızlığı vurgulayarak kendi modelinin geliştirilmesine öncelik vermiştir.

Son zamanlarda, YZ düzenlemelerinde, özellikle üretken YZ alanında, Avrupa Birliği (AB) tarafından önemli bir adım atılmıştır. Geçmiş haftalarda, AB tarafından biyometrik tanımlama sistemleri gibi yüksek riskli teknolojilere ve ChatGPT gibi üretken YZ platformlarının şeffaflığına odaklanan dünyanın ilk kapsamlı tüzüğü hazırlanmıştır. Tanıtılan bu düzenleyici çerçeve, etkili politikaların uygulanması ve yaygınlaştırılmasında AB'nin geçmiş başarısı göz önüne alındığında, büyük öneme sahiptir. AB tarafından yürürlüğe konan Genel Veri Koruma Tüzüğü (GDPR), küresel bir yansımaya sahip "Brüksel Etkisinin" dikkate değer bir örneği niteliğindedir.

Bununla birlikte, AB'nin YZ düzenlemelerine yaklaşımının benzer bir küresel etkiye sahip olup olmayacağı, konu bağlamında ABD ile AB’nin zıt yaklaşımlar izlemesi göz önüne alındığında belirsizliğini korumaktadır. Küresel arenada ABD ve Çin arasında kızışan rekabetin hızlandırdığı YZ yarışı devam ederken, ABD'nin YZ düzenlemeleri bağlamında AB'nin liderliğini takip etmeye gönüllü olup olmayacağı zaman içerisinde görülecektir. Bu tür düzenlemelerin YZ inovasyonunu doğrudan etkileyebileceğini belirtmek önemlidir. Geliştirilen yasal çerçevenin aşırı sınırlayıcı olması, özellikle Çin ile artan rekabet göz önüne alındığında, ABD'nin hedefleri için uyumlu olmayan yavaş bir inovasyona neden olabilir.

 

Türkiye Ne Yapmalı?

Türkiye, küresel teknoloji kulvarında önemli bir oyuncu haline gelebilmek için aktif çaba göstermektedir. Her ne kadar teknolojik inovasyonlar, Türkiye için büyük önem arz etse de vatandaşlarının korunması, geliştirilen politikalarının temel bir odağı olmaya devam etmektedir. Bu değerlendirme dahilinde, Türkiye'nin AB'nin düzenleyici yürütme girişimleriyle uyumlu adımları zaman kaybetmeksizin atması gerekmektedir. Bununla birlikte, Türkiye sadece AB ile uyum kapsamındaki düzenlemelerle yetinmemeli, Türkiye’nin milli hedefleri doğrultusunda kendi düzenlemelerini geliştirmesi daha faydalı olacaktır. Düzenlemeleri kendi özel bağlamına göre uyarlayarak, Türkiye hem toplumunun güvenliği hem de teknolojik gelişmeler için kapsamlı bir çerçeve sağlayabilmiş olacaktır ki böylece YZ alanında önde gelen devletler arasında olduğunu kesinleştirebilecektir.

 


Etiketler »  

Veri politikasındaki amaçlarla sınırlı ve mevzuata uygun şekilde çerez konumlandırmaktayız. Detaylar için "veri politikamızı" inceleyebilirsiniz. Daha fazlası