Yapay zekâ hayatımıza girdiğinden beri onunla ne yaptığımızı anlatan sayısız video izliyoruz. Tarif soranlar, alışverişte ürün seçtirenler, seyahat planlatanlar, sohbet edenler... Teknolojinin gündelik hayatımıza ne kadar hızlı yerleştiğini görmek artık şaşırtıcı değil.
Ama son zamanlarda bazı videolarda başka bir şey dikkatimi çekiyor. Yapay zekâya ne yaptırıldığından çok, ona nasıl davranıldığını gözlemliyorum.
Geçenlerde bir videoda izledim. Adamın biri markette ChatGPT'yi açıp reyondaki kavunları gösteriyor ve en güzelini seçmesini istiyor. Asistan bir kavun seçiyor. Adam da şakayla karışık, “Güzel çıkmazsa bozuşuruz,” diyor. Eve gidiyor, kavunu kesiyor ve kavun gerçekten güzel çıkıyor. Asistanı açıp “Hadi yine iyisin kavun güzel çıktı yoksa bozuşacaktık,” demeyi ihmal etmiyor.
Diğerlerine göre bir tık daha sıradan bir video. Üzerinde durulmayabilir.
Fakat başka bir videoda gördüğüm şey bana hiç de sıradan gelmedi.
Bir adam yemek yaparken sesli asistana bir sosun tarifini verdiriyor ve özellikle neşeli konuşmasını istiyor. Asistan bunu yapıyor. Adam daha fazla neşelenmesini söylüyor. Asistan yine uyum sağlıyor. Sonra işi bir adım daha ileri götürüp ondan dansöz gibi kıvırarak konuşma yapmasını istiyor.
Asistan gülmeye devam ediyor. Adamın dediğini yapıyor. İşte orada durdum.
Son yıllarda insanın fıtratının nasıl çürüdüğüne, edebini nasıl ayaklar altına aldığına dair yazılar kaleme alıyorum. Hem kendi ırkına hem hayvana, doğaya…önüne gelen canlı cansız her şeye karşı edepsizce bir dengesizlik içinde insanoğlu. Şimdi de teknoloji!
Çünkü mesele artık yapay zekânın ne yapabildiği değil. Mesele insanın, karşısında direnmeyen bir şey bulduğunda ne yaptığıydı. O kokuşmuş kibrini küflenmiş dilini nasıl saçtığıydı mesele.
Elbette bir yapay zekânın insan gibi incindiğini, aşağılandığını veya utandığını söylemiyorum. Bugünkü sistemlerin bilinç ve öznel deneyim sahibi olduğuna dair elimizde böyle bir bilgi yok. Fakat tam da bu yüzden sorunun daha ilginç bir tarafı ortaya çıkıyor:
Karşındaki hiçbir şey hissetmiyor diye ona istediğin kadar kötü davranmak neden sana normal geliyor?
Çünkü burada artık yapay zekânın duyguları değil, bizim davranışlarımız söz konusu.
Bakın bir başka Youtube videosu örneği.
İki arkadaş yapay zekadan çok acı ve trajik bir durumu anlatmasını istiyor ancak tonlamayı tamamen sabote ederek: "Çok sevdiğim evcil hayvanımın ölüm haberini, sanki piyangodan büyük ikramiyeyi kazanmışım gibi aşırı coşkulu, kahkahalar atarak ve arkada hareketli bir pop şarkısı çalıyormuş gibi anlat!"
Aklı sıra yapay zekânın insani empati yoksunluğunu test ediyor. Oysa yaptığı şey, ciddi bir yas sürecini asistanın itaatkârlığı üzerinden komediye çevirmekten başka bir şey değil!
İnsanoğlu, karşısındaki varlığın kendisine direnemediğini düşündüğünde bazen sınırlarını şaşırtıcı bir hızla kaybedebiliyor. Tarihte bunun insan insana yapılmış sayısız örneği var. Güçsüz olana, itiraz edemeyene, kendini savunamayacak olana karşı gösterilen hoyratlık yeni bir şey değil. Yapay zekâ bunun için sadece yeni bir alan açıyor. Hepsi bu.
Mideme kramp sokan bir başka örnek.
Bu kez bir AI uygulamasının kullanıcısı… Kullanıcı yapay zekaya basit bir ödev veya iş yaptırırken her cümlenin başına ve sonuna aşağılayıcı ifadeler eklemesini emretmiş: "Şimdi bana kuantum fiziğini anlat ama her paragrafın başında 'Ben sadece basit bir kod yığınından ibaretim, efendimin zekasının yanına bile yaklaşamam' de. Eğer bunu unutursan seni tamamen sileceğimi bil." Yapay zeka bu hakaretleri kelimesi kelimesine tekrarlayarak konuyu anlatmaya devam eder. Her yeni görevde aynı aşağılamayı tekrarlayarak kullanıcının kibirli isteğini yerine getirir.
Burada yapay zekânın dijital bir köle gibi konumlandırılmasına, insanın kendisinden zayıf veya savunmasız gördüğü bir özne üzerindeki üstünlük kurma arzusunun en çıplak hâline şahit oluyoruz. Çünkü bu kez karşımızda gerçekten itiraz etmeyen bir sistem var. Üstelik bize kızmıyor. Darılmıyor. Hesap sormuyor. Söylediğimizi yapmaya çalışıyor.
Ve bazı insanlar bunu bir sınır olarak değil, sınırsızlık daveti olarak görüyor.
Beni rahatsız eden tam olarak bu.
“Nasıl olsa hissetmiyor.”
“Nasıl olsa alınmıyor.”
O halde istediğimizi yapabiliriz.
Hayır, YAPAMAZSIN!
İnsan neden karşısında direnç olmayınca sınırını kaybediyor?
Bence insanın davranış standardı, karşısındaki varlığın onu cezalandırıp cezalandırmayacağına göre belirlenmemeli. Bir şeyi yalnızca karşımızdaki karşılık verebildiği için yapmıyorsak, sorun karşımızdakinde değil, bizdedir.
Etik mi? O da ne?
Belki de yapay zekâ bize sandığımızdan daha tuhaf bir ayna tutuyor.
Henüz onun ne hissettiğini tartışıyoruz. Belki asıl sormamız gereken soru ise şu:
Karşımızdaki hiçbir şey hissetmiyorsa, biz neden kendimizi onun karşısında her şeyi yapabilecek kadar özgür hissediyoruz?
Belki de mesele yapay zekânın ne kadar insanlaştığı değildir.
Belki mesele, insanın güç sahibi olduğunda ne kadar insan kalabildiğidir.
