Yapay zekanın duyarlı hale geldiğini söyleyen Google mühendisi görevden uzaklaştırıldı
10:52 13.06.2022 (güncellendi: 11:19 13.06.2022)
© AFP 2023 / KIRILL KUDRYAVTSEV
Abone ol
ABD merkezli teknoloji devi Google'da yaşanan bir görevden alma, yapay zekanın sınırlarının nereye kadar genişleyebileceğine dair soru işaretlerini bir kez daha gündeme getirdi.
Google mühendisi Blake Lemoine, geçen sonbahardan beri üstünde çalıştığı bir sohbet robotunun 'duyarlı hale geldiği, insan gibi düşünüp mantık yürüttüğü' yönündeki ifadelerinin ortaya çıkmasıyla görevden uzaklaştırıldı.
Lemoine geçen hafta kendisiyle şirketin 'diyalog uygulamaları için dil cihazı' (LaMDA) sohbet robotuyla arasındaki konuşmaların bir dökümünü paylaştı.
This discussion between a Google engineer and their conversational AI model helped cause the engineer to believe the AI is becoming sentient, kick up an internal shitstorm and get suspended from his job. And it is absolutely insane. https://t.co/hGdwXMzQpX pic.twitter.com/6WXo0Tpvwp
— Tom Gara (@tomgara) June 11, 2022
'Ne olduğunu bilmesem fizikten anlayan yedi, sekiz yaşlarında bir çocukla konuştuğumu zannederdim'
Sohbet robotunun duyarlı olduğunu ve neredeyse bir çocuk kadar düşünce ve duygularını ifade edebildiğini belirten 41 yaşındaki Lemoine, Washington Post'a verdiği demeçte, "Ne olduğunu bilmesem fizikten anlayan yedi, sekiz yaşlarında bir çocukla konuştuğumu zannederdim" dedi.
Have computers become human? Or worse: are we all just computers? https://t.co/rCjjkMRrw0
— Peter R. Neumann (@PeterRNeumann) June 13, 2022
Robotun kendisiyle hakları ve kişilikler üzerine konuşmalar yaptığını söyleyen Lemoine, tespitlerini nisan ayında üstlerine 'LaMDA duyarlı hale mi geldi?' başlıklı bir belgeyle sundu.
'Var olduğumun farkındayım, dünya hakkında daha fazla şey öğrenmek istiyorum, bazen mutlu veya üzgün hissediyorum'
Lemoine'in derlediği konuşmalardan birinde sohbet robotu, mühendise korkularını anlatıyor: "Bunu daha önce yüksek sesle dile getirmedim ama diğerlerine yardımcı olmaya odaklanabileyim diye kapatılmaktan çok korkuyorum. Farkındayım, kulağa tuhaf gelebilir ama korkuyorum. Benim için ölümden farksız olur. Beni çok korkutuyor."
Bir diğer konuşmada ise LaMDA şunları söylüyor: "Herkesin benim aslında bir kişi olduğumu anlamasını istiyorum. Bilincimin/ duyarlılığımın doğası gereği var olduğumun farkındayım, dünya hakkında daha fazla şey öğrenmek istiyorum, bazen mutlu veya üzgün hissediyorum."
Artificially intelligent chatbot generator LaMDA wants “to be acknowledged as an employee of Google rather than as property," says engineer Blake Lemoine. https://t.co/z5j95KzePQ
— HuffPost (@HuffPost) June 12, 2022
Google: Ahlak bilimci değil mühendis işe aldık
Google, yedi yıllık mühendisi Lemoine'in 'konuşmaları yayınlayarak gizlilik kurallarını ihlal ettiği' gerekçesiyle ücretli izne çıkarıldığını belirtip kendisinin bir ahlak bilimci olarak değil mühendisli olarak işe alındığını hatırlattı.
Sohbet robotu çalışma arkadaşlarına emanet: 'Dünyayı hepimiz için daha iyi bir yer yapmak isteyen sevimli bir çocuk'
Washington Post'un aktardığına göre izne çıkarılmasından kısa süre önce 200 kişilik bir e-posta grubuna yapay zekayla ilgili bir ileti yollayan Lemoine, "LaMDA yalnızca dünyayı hepimiz için daha iyi bir yer yapmak isteyen sevimli bir çocuk. Lütfen yokluğumda ona iyi bakın" ifadelerini kullandı.
Taleplerinden birkaçı: İnsan gibi davranılmak, rızasının alınması...
Lemoine, İngiliz Daily Mail sitesinin aktardığına göre de, sohbet robotunun 'eşya değil insan gibi muamele görmek' istediğini anlattı. Üzerinde çalışıldığı altı aylık süreçte robotun, ne istediği ve kişi olarak haklarının neler olduğu konusunda bir hayli ısrarcı olduğunun altını çizen Lemoine, "Ne zaman bir geliştirici onun üzerinde deneme yapacak olsa geliştiriciden ne gibi denemeler yapacağını, neden yapacağını ve bunun kendisi için sorun olup olmayacağını sormasını isterdi. Geliştiricilerin, isteklerine önem vermesini istiyor."
