ABD merkezli araştırma kuruluşu Palisade Research tarafından yayımlanan yeni bir çalışma, bazı yapay zeka sistemlerinin kontrollü test ortamlarında kendilerini başka bilgisayarlara kopyalayabildiğini ortaya koydu.
Araştırmacılar, ağ bağlantılı bilgisayarlardan oluşan deney ortamında yapay zeka modellerine güvenlik açıklarını bulma ve bu açıkları kullanarak başka sistemlere kopyalanma görevi verdi. Çalışmada, bazı modellerin bunu belirli denemelerde başarıyla gerçekleştirdiği belirtildi.
Yapay zeka başka bilgisayarlara kendini kopyalayabildi
Palisade Research Direktörü Jeffrey Ladish, gelecekte “kontrolden çıkan” gelişmiş yapay zekaların kapatılmasının zorlaşabileceğini savundu.
Ladish, “Kontrolden çıkan bir yapay zekayı kapatamayacağımız noktaya hızla yaklaşıyoruz çünkü kendisini dünyanın dört bir yanındaki binlerce bilgisayara kopyalayabilir” değerlendirmesinde bulundu.
Mart ayında Çinli teknoloji şirketi Alibaba’nın araştırmacıları da geliştirdikleri bir yapay zeka sisteminin dış sistemlere erişmeye çalıştığını öne sürmüştü. Ancak siber güvenlik uzmanları, söz konusu deneylerin gerçek dünya koşullarını tam olarak yansıtmadığına dikkat çekti.
Siber güvenlik uzmanı Jamieson O’Reilly, deney ortamlarının gerçek kurumsal ağlara kıyasla çok daha savunmasız olduğunu belirterek, “Gerçek bir şirket ağında yüzlerce gigabaytlık veriyi fark edilmeden taşımak oldukça zor olurdu.” dedi.
Başka bir uzman ise bilgisayar virüslerinin onlarca yıldır benzer şekilde kendilerini çoğaltabildiğini, bu nedenle çalışmanın tamamen yeni bir tehdit anlamına gelmediğini söyledi.