“Yapay zekâ sizi öldürsün, ondan sonra müdahale başlasın”
Abone ol
Gazeteci Serhat Ayan, yapay zekâ şirketi Anthropic’in ABD Kongresi’ne sunduğu yasa taslağını değerlendirdi. Taslakta, ileri yapay zekâ modellerine müdahale edilmesi için 1 milyar doları aşan maddi zarar veya 50’den fazla kişinin ölümü gibi yüksek eşikler öngörülmesini eleştiren Ayan, düzenlemeyi eleştirdi.
Yeni Şeyler Rehberi programında konuşan Gazeteci Serhat Ayan, yapay zekâ şirketlerinin yalnızca gelecekte çıkarılacak düzenlemelere uymak değil, bu düzenlemelerin hazırlanma sürecini de etkilemek istediğine dikkat çekti. Ayan, teknoloji alanındaki düzenlemelerin uzmanlık gerektirdiğini belirterek, önerilen risk eşiklerinin olası sonuçlarını sorguladı.
“Zarar kriteri koymuşlar”
Anthropic’in hazırladığı taslakta yapay zekâ modellerinin durdurulabilmesi için öngörülen koşullara değinen Ayan, düzenlemenin yapay zekânın çalışma performansından çok neden olabileceği zarara odaklandığını belirtti:
“Yani kriter deyince yapay zekâya, ‘Şöyle hızlı çalışsın, şu kriterlere ulaşabilsin,’ diye bir kriter koymamışlar. Zarar kriteri koymuşlar. Yani mesela 1 milyar dolardan fazla zarar verirse ‘Kapat, kapat, kapat, kapat,’ diyecek. 50 kişi ölürse ‘Kapat, kapat, kapat,’ diyecek. Ama mesela 49 kişi ölürse… Yapay zekâ geldi, o kahveyi taradı, 49 kişiyi öldürdü. Onda bir şey yok, o devam. Öteki 50’ye gelinceye kadar devam.”
Ayan, bu yaklaşımın müdahale için çok yüksek bir zarar eşiği belirlediğini savunarak, “Yani dur, yok gibi geliyor bana. Bilmiyorum, siz ne düşünüyorsunuz?” dedi.
“Şirketler düzenlemelerin nasıl yazılacağını da etkilemek istiyor”
Yapay zekâ şirketlerinin düzenleme süreçlerindeki rolünü de değerlendiren Ayan, Anthropic’in kendi yasa taslağını Kongre üyelerine sunmasının şirketlerin mevzuatın hazırlanmasına etki etme isteğini gösterdiğini söyledi:
“Yapay zekâ şirketlerinin hangi kurallarla denetleneceği tartışılırken Claude’un geliştiricisi Anthropic alışılmadık bir adım atmış ve Amerikan Kongresi üyelerine kendi hazırladığı yasa taslağını sunmuş efendim. Şirketlerin yalnızca gelecekteki düzenlemelere uymak değil, düzenlemelerin nasıl yazılacağını da etkilemek istediği buradan ortaya çıkıyor.”
Ayan, teknoloji alanındaki yasal düzenlemelerin yalnızca devletlerin kendi değerlendirmelerine bırakılmasının sorunlar yaratabileceğini belirtti. Yasa yapıcıların teknolojik gelişmelerin etkilerini yeterince kavrayamayabileceğini savunan Ayan, bu durumun farklı ülkelerde de görüldüğünü ifade etti.
“Yasa yapıcıların teknolojinin tesirinden haberi yok”
Yasal düzenlemelerin hazırlanmasında teknoloji konusundaki bilgi eksikliğine dikkat çeken Ayan, bunun mevzuatın niteliğini etkileyebileceğini söyledi:
“Aslında mantıklı. Neden mantıklı? Çünkü devletleri kendi hâline bıraktığınızda, devletlerin içindeki insanların, yasa yapıcıların gerçekten teknolojinin tesirinden haberleri yok. Bu Amerika’da da böyle, Fransa’da da böyle, Almanya’da da böyle, Türkiye’de de böyle. Türkiye’de yakın zamanlarda bunun neden böyle olduğunu anlattım size. Yani insanlar yasa yaptıklarını zannederken aslında o yasayı yüzüne gözüne sürüyorlar; olmuyor, olmuyor. Birçok yasanın içinde birçok saçma sapan şeyler var.”
Taslakta hangi riskler öne çıkıyor?
Ayan’ın aktardığına göre Reuters’ın haberine konu olan taslakta, yetkili makamların müdahalesi için modelin yakın ve öngörülebilir biçimde 1 milyar doları aşan maddi zarara yol açma veya 50’den fazla kişinin ölümü ya da ciddi biçimde yaralanması riski taşıması gibi koşullar öngörülüyor.
Biyolojik silah geliştirilmesi, büyük çaplı siber saldırılar ve modelin geliştirilmesi üzerindeki denetimden kaçması gibi durumların da taslakta ele alındığını belirten Ayan, sıradan güvenlik şikâyetlerinin veya yanlış bilgi üretiminin tek başına modeli durdurmak için yeterli görülmediğini ifade etti.
Ayan şunları söyledi:
“Zarar türleri de sınırsız değilmiş. Anthropic tabii ki kendini kısıtlayacak olan cezai maddeleri olabildiğince kompreslemiş, ziplemiş, sıkıştırmış böyle. Mesela biyolojik silah geliştirmesi, büyük bir siber saldırı veya modelin geliştirilmesinin denetiminden kaçması gibi durumlarda da bu düzenleme uygulansın demiş.
Bu yüzden taslak, bir modelin yanlış bilgi vermesini ya da sıradan bir güvenlik şikâyetini otomatik olarak durdurma gerekçesi yapmıyor. Yani iyice bir sizi dövsün, öldürsün, ondan sonra bu çalışmaya başlasın.”
