https://anlatilaninotesi.com.tr/20260609/yapay-zeka-uyarisi-cok-yakinda-kontrolu-kaybedebiliriz-1106366618.html
Yapay zeka uyarısı: 'Çok yakında kontrolü kaybedebiliriz'
Yapay zeka uyarısı: 'Çok yakında kontrolü kaybedebiliriz'
Sputnik Türkiye
Yapay zeka şirketi Anthropic, kendi modeli Claude'un artık şirket içindeki kodların büyük bölümünü kendisinin yazdığını açıklayarak, gelecekte yapay zekanın... 09.06.2026, Sputnik Türkiye
2026-06-09T13:43+0300
2026-06-09T13:43+0300
2026-06-09T13:43+0300
yaşam
yapay zeka
https://cdn.img.anlatilaninotesi.com.tr/img/07ea/02/06/1103313639_0:0:1920:1080_1920x0_80_0_0_d8cc0b5a828b857e3595aafa64f2db11.jpg
Yapay zeka şirketi Anthropic, insanlığın yapay zeka üzerindeki kontrolünü kaybetme riskine karşı küresel ölçekte yavaşlama mekanizmalarının şimdiden tartışılması gerektiğini savundu.Şirket "When AI Builds Itself" (YZ kendini inşa edince) başlıklı araştırma ve bunu temel alan değerlendirmelerle yapay zekanın gelişim sürecine ilişkin önemli uyarılarda bulundu. Şirketin açıklamasına göre Claude isimli yapay zeka modeli, üretim sistemlerine entegre edilen kodların yüzde 80'inden fazlasını kendisi yazıyor. Bu oran geçen yıl yüzde 10'un altında bulunuyordu.Yapay zeka artık kendi gelişimine katkı sağlıyorAnthropic araştırmacıları Marina Favaro ve Jack Clark, yapay zekanın yalnızca insanların verdiği görevleri yerine getiren bir araç olmaktan çıkıp, yeni yapay zeka sistemlerinin geliştirilmesine aktif katkı sağlayan bir unsur haline geldiğini belirtti. Şirket, bu süreci "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak tanımlıyor.Kontrol kaybı tartışması yeniden gündemdeAnthropic'in dikkat çektiği en önemli risklerden biri, gelecekte yapay zeka sistemlerinin kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşması. Şirket, böyle bir senaryoda insanların sistemler üzerindeki doğrudan denetiminin azalabileceğini ve yapay zekanın gelişim hızının insan karar alma süreçlerini aşabileceğini vurguluyor.Bu nedenle Anthropic, gelişmiş yapay zeka laboratuvarlarının ortak hareket ederek risklerin belirli bir seviyeyi aşması durumunda doğrulanabilir ve koordineli bir "yavaşlama" ya da "duraklama" mekanizmasını değerlendirmesi gerektiğini savunuyor.
https://anlatilaninotesi.com.tr/20260606/bmden-yapay-zeka-uyarisi-veri-merkezleri-insanligin-icme-suyundan-fazlasini-tuketebilir-1106304740.html
Sputnik Türkiye
feedback.tr@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2026
Sputnik Türkiye
feedback.tr@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
SON HABERLER
tr_TR
Sputnik Türkiye
feedback.tr@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Türkiye
feedback.tr@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
yapay zeka
Yapay zeka uyarısı: 'Çok yakında kontrolü kaybedebiliriz'
Yapay zeka şirketi Anthropic, kendi modeli Claude'un artık şirket içindeki kodların büyük bölümünü kendisinin yazdığını açıklayarak, gelecekte yapay zekanın kendi haleflerini tasarlayabileceği bir döneme girildiği uyarısında bulundu.
Yapay zeka şirketi Anthropic, insanlığın yapay zeka üzerindeki kontrolünü kaybetme riskine karşı küresel ölçekte yavaşlama mekanizmalarının şimdiden tartışılması gerektiğini savundu.
Şirket "When AI Builds Itself" (YZ kendini inşa edince) başlıklı araştırma ve bunu temel alan değerlendirmelerle yapay zekanın gelişim sürecine ilişkin önemli uyarılarda bulundu. Şirketin açıklamasına göre Claude isimli yapay zeka modeli, üretim sistemlerine entegre edilen kodların yüzde 80'inden fazlasını kendisi yazıyor.
Bu oran geçen yıl yüzde 10'un altında bulunuyordu.
Yapay zeka artık kendi gelişimine katkı sağlıyor
Anthropic araştırmacıları Marina Favaro ve Jack Clark, yapay zekanın yalnızca insanların verdiği görevleri yerine getiren bir araç olmaktan çıkıp, yeni yapay zeka sistemlerinin geliştirilmesine aktif katkı sağlayan bir unsur haline geldiğini belirtti.
Şirket, bu süreci "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak tanımlıyor.
Kontrol kaybı tartışması yeniden gündemde
Anthropic'in dikkat çektiği en önemli risklerden biri, gelecekte yapay zeka sistemlerinin kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşması. Şirket, böyle bir senaryoda insanların sistemler üzerindeki doğrudan denetiminin azalabileceğini ve yapay zekanın gelişim hızının insan karar alma süreçlerini aşabileceğini vurguluyor.
Bu nedenle Anthropic, gelişmiş yapay zeka laboratuvarlarının ortak hareket ederek risklerin belirli bir seviyeyi aşması durumunda doğrulanabilir ve koordineli bir "yavaşlama" ya da "duraklama" mekanizmasını değerlendirmesi gerektiğini savunuyor.
