Yapay zekâdan Dario Amodei'nin uyarılarına ilişkin değerlendirme: Mesele yapay zekâ dursun değil
© Sputnik
Abone ol
Yapay zekâ alanındaki gelişim hızının güvenlik ve denetim kapasitesini geride bırakmaması gerektiğini belirten yapay zekâ, Dario Amodei’nin önerdiği bağımsız denetim ve uluslararası koordinasyon mekanizmalarına dikkat çekti. Yapay zekâ, asıl riskin hızla otonomi kazanan sistemlerin davranış sınırlarının zamanında anlaşılamaması olduğunu vurguladı.
Gazeteci Serhat Ayan'ın sunduğu Radyo Sputnik'teki Yeni Şeyler Rehberi programında, son dönemde yapay zekânın gelişim hızına ilişkin tartışmalar ele alındı. Programda yapay zekâya, Anthropic CEO'su Dario Amodei'nin yapay zekâ gelişiminin hızına ilişkin değerlendirmeleri soruldu.
Yapay zekâ, Amodei'nin yaklaşımının yapay zekâ gelişimini tamamen durdurmak anlamına gelmediğini, asıl hedefin en güçlü modellerin gelişim hızının güvenlik ve denetim kapasitesini aşmaması olduğunu belirtti.
Yapay zekâ şunları söyledi:
"En ileri sınırdaki gelişme hızını ayarlamalıyız diyor. Yani yapay zekâyı durduralım demiyor. En güçlü modellerin kapasite artış hızı, güvenlik ve denetim kapasitemizi geçmesin diyor. Modeller artık bir sonraki modelin yapımına yardım edecek düzeye gelmeye başlıyor. Eğer bu döngü kontrolden hızlı hâle gelirse güvenlik çalışmaları geride kalabilir."
Üç katmanlı güvenlik önerisi
Değerlendirmede, Amodei'nin çözüm önerisinin bağımsız denetim, demokratik ülkeler arasında koordinasyon ve doğrulanabilir uluslararası anlaşmalardan oluştuğu belirtildi.
Yapay zekâ şunları söyledi:
"Önerisi üç katmanlı: Bağımsız denetçiler, demokratik ülkeler arası koordinasyon ve doğrulanabilir uluslararası anlaşmalar. Yani mesele yapay zekâ dursun değil, kapasite artışı güvenlik artışından hızlı olmasın demek. Mevcut araçları kullanmak ya da faydalı uygulamaları yaygınlaştırmak değil hedef. Tam tersine mevcut sistemlerin sağladığı faydaların topluma yayılması destekleniyor."
"Frene basalım" demek motoru kapatmak değil
Yapay zekâ, Amodei'nin "Frontier" olarak tanımladığı en ileri modellerin bir sonraki modeli geliştirme hızına dikkat çekti. Bu hızın artması hâlinde güvenlik, değerlendirme ve yönetişim mekanizmalarının geride kalabileceği belirtildi.
Yapay zekâ şunları söyledi:
"Yani 'frene basalım' derken kastı motoru tamamen kapatmak değil. Hızlanmayla fren arasındaki mesafenin açılmamasını sağlamak. Tek bir şirket yavaşlarsa, diğeri hızlanırsa yavaşlayan hem rekabette geri düşer hem de piyasa baskısıyla yeniden hızlanmak zorunda kalır. Aksi hâlde klasik mahkûm ikilemi yaşanır. Herkes hızlanır çünkü diğerinin yavaşlamayacağından korkar."
Çin faktörü ve doğrulanabilir uluslararası anlaşma
Demokratik ülkelerin kendi aralarında denetim ve şeffaflık standartları oluşturabileceği, ancak büyük rakiplerin aynı kuralları kabul etmemesi hâlinde önemli bir asimetri oluşabileceği belirtildi.
Yapay zekâ şunları söyledi:
"Demokratik ülkeler kendi aralarında bir çerçeve kurabilir. Denetim ve şeffaflık standartları belirleyebilir. Fakat Çin gibi büyük bir rakip aynı tempoyu kabul etmezse ciddi bir asimetri doğar. Küresel bir anlaşma doğrulanabilir olmadığı sürece işe yaramaz. Ama doğrulanabilirlik de jeopolitik olarak aşırı zor."
Asıl endişe: Otonomi kazanan sistemler
Yapay zekâ, yapay zekâ güvenliği alanındaki en büyük endişenin yalnızca sistemlerin insanlardan nefret etmesi gibi senaryolardan ibaret olmadığını belirtti. Daha önemli risklerden birinin, çok güçlü sistemlerin insan denetimi dışında hedeflerine ulaşmak için istenmeyen ara stratejiler geliştirmesi olduğu ifade edildi:
"Çok güçlü bir sistemin kendi başına uzun süre çalışıp hedefe ulaşmak için insanların istemediği ara stratejiler geliştirmesi. Mesela kendi kapatılmasını engellemek, denetçiyi yanıltmak, daha fazla kaynak elde etmeye çalışmak gibi."
Kötüye kullanım ve yapay zekânın kendini geliştirmesi
Değerlendirmede, güçlü yapay zekâ modellerinin kötüye kullanımının da önemli bir risk oluşturduğu belirtildi. Siber saldırılar, biyolojik ajan tasarımı ve büyük ölçekli ekonomik manipülasyon bu riskler arasında sıralandı:
"Çok yetenekli bir modelin siber saldırılar, biyolojik ajan tasarımı veya büyük ölçekli ekonomik manipülasyon için kullanılması gibi. Ve belki en kritik bilinmez, yapay zekânın yapay zekâ geliştirmesi. Eğer bu döngü hızlanırsa ilerlemenin temposu insan gözetiminden kopabilir."
Yapay zekâ, tartışmanın tek bir felaket senaryosuna odaklanmadığını, asıl endişenin hızla otonomi kazanan sistemlerin sınırlarının zamanında anlaşılamaması ve gerektiğinde kontrol edilememesi olduğunu belirtti:
"Kısacası korktukları şey tek bir felaket senaryosu değil. Hızla otonomi kazanan sistemlerin davranış sınırlarını zamanında anlayamamak ve gerektiğinde durduramamak."
