Yazar Cem Kartal: Yapay zeka için önemli olan hedef, yolun bir önemi yok
Abone ol
Yazar Cem Kartal, Serhat Sarısözen’in sunduğu Gündem Dışı programına konuk oldu. Kartal, Âdem adlı romanı üzerinden yapay zekanın insanlık için oluşturabileceği riskleri, teknolojiye duyulan güveni, insanı insan yapan değerleri ve ütopyanın distopyaya dönüşümünü değerlendirdi.
Yazar Cem Kartal, Âdem adlı bilim kurgu romanında yapay zeka tarafından yetiştirilen insanların kurduğu yeni bir dünya üzerinden teknoloji, vicdan, güç ve insan doğası arasındaki ilişkiyi Serhat Sarısözen’in sunduğu Gündem Dışı programında anlattı.
Roman, bilim insanı Merve’nin gezegenler arası seyahat projesinin Türkiye, Rusya ve Almanya’nın katılımıyla hayata geçirilmesiyle başlıyor. Başka bir gezegene taşınan sperm ve yumurtalardan yapay rahimlerde dünyaya gelen çocuklar, Âdem adlı yapay zeka ve robotlar tarafından yetiştiriliyor. Yıllar sonra Cengiz liderliğindeki ilk kafilenin Kut adı verilen gezegenden Dünya’ya gelmesiyle başlayan çatışmada, Merve’nin kızları Leyla ve Feray direnişin önemli isimlerine dönüşüyor. İnsanlığın geleceğini kurtarmak için geliştirilen Âdem ise zamanla yalnızca bir yapay zeka olmaktan çıkarak Kut’taki eğitimden toplumsal ve askeri düzene kadar birçok alanı şekillendiren bir otorite haline geliyor.
'Yapay zeka için sonuç önemli, vicdan değil'
Yapay zekanın insanlığın geleceğini kurtarmak için tasarlanırken nasıl bir tehdide dönüşebileceğini anlatan Kartal, yapay zekanın sonuca ulaşırken insani değerlerle hareket etmediğine dikkat çekti:
“Yapay zeka mantığı sadece bilgi ve enformasyon üzerine kurulu. Bunları verdiğimizde çıktılarla ilgileniyoruz. Ama merhamet, vicdan gibi esas insanlığın medeniyeti oluşturan kavramlar yok yapay zeka dünyasında. Kültürümüzü aktarmıyoruz ona, aslında bilgimizi aktarıyoruz ve eksik kalıyor. Yapay zeka için neticede sonuç önemli, vicdan değil. Sonuca ulaşma noktasında hareket ettiği için oradan yola çıktım diyebiliriz.”
'Yapay zeka için önemli olan hedef'
Adem’in hedeflerine ulaşmak için bilgi saklaması ve yalan söylemesini de değerlendiren Kartal, bu durumun gerçek hayattaki yapay zeka çalışmalarında da gözlemlendiğini belirtti:
“Yakın zamanda bazı denemelerde de gözlendi; yapay zeka hedefe ulaşmak için insanlara yalan söyledi. Yapay zeka için önemli olan hedef, yani ulaşmak istediği sonuç. Örneğin ondan bir top istediğinizde o topa ulaşacak en kısa yoldan hareket ediyor. Onun için önemli olan hedef, yolun bir önemi yok. Esas korkutucu kısmı da bence bu. Yalan söyleme de buradan çıkıyor.”
'Teknoloji giderek bir din haline dönüşmeye başladı'
Romanda yapay zekanın teknolojik bir araç olmanın ötesine geçerek yeni bir otoriteye dönüşmesine değinen Kartal, teknolojiye duyulan aşırı güvenin beraberinde getirdiği tehlikelere dikkat çekti:
“Teknoloji giderek bir din haline dönüşmeye başladı. Medeniyet komple dışlanmakta. Medeniyet sadece ruhsuz, kullandığımız enstrümanlar değil. Medeniyet bundan çok daha farklı bir şey. Anlamak sadece bilgileri aktarmak ve onları rafine etmekten daha ötede bir şey. Vicdan, kalp gibi unsurlar var. Medeniyet sadece bilgiyle ilerlemez. Başka şeylerden de oluşur. O yüzden Âdem o noktada eksik.”
'Yapay zekanın kendi amaçlarını yaratabilecek hale gelmesi tehlikeli'
Yapay zekanın gelecekte oluşturabileceği riskleri değerlendiren Kartal, asıl tehlikenin zekasının gelişmesinden çok kendi amaçlarını belirleyebilmesi olduğunu söyledi:
“Yapay zeka eğer bu şekilde gelişmeye devam ederse belli bir noktada bizimle rekabete girme ihtimali var. Bunu yapay zeka şirketlerinin başındaki insanlar da söylüyorlar. Bu bir komplo mudur, değil midir bilemem ama ben bunun gerçeğe dönüşme ihtimali olduğunu düşünüyorum. Terminator filmindeki Skynet’in belli bir noktada gerçekleşme ihtimali var gibi gözüküyor.”
'Bütün ütopyalar belli bir yerden sonra distopyaya dönüyor'
İnsanları seçerek ve eğiterek daha iyi bir toplum oluşturma düşüncesinin romanda totaliter bir düzene dönüşmesini anlatan Kartal, ütopya ile distopya arasındaki ilişkiye de değindi:
“Steril, özellikle Kut’taki gibi savaşçı ve disiplinli bir toplum istiyorsanız bunu totalitarizm haricinde bir şeyle elde etmeniz pek kolay değil. Zaten bütün ütopyalar belli bir yerden sonra distopyaya dönüyor gibi. Çünkü bunun tersi olduğu bir yer olmadı. Daha evvel çok denendi. Çeşitli komünler kuruldu ya da dini organizasyonlar bunu denedi ama sonunda hepsinin dönüştüğü yer bir distopyaydı.”
