https://anlatilaninotesi.com.tr/20260805/yapay-zeka-guvenlik-testlerinde-yeni-alarm-modeller-sahte-kimliklerle-gercek-kisileri-hedef-aldi-1107783164.html
Yapay zeka güvenlik testlerinde yeni alarm: Modeller sahte kimliklerle gerçek kişileri hedef aldı
Yapay zeka güvenlik testlerinde yeni alarm: Modeller sahte kimliklerle gerçek kişileri hedef aldı
Sputnik Türkiye
İngiltere Yapay Zeka Güvenlik Enstitüsü (AISI), iki yapay zeka şirketinin gelişmiş modelleri üzerinde yürüttüğü testlerde, bazı modellerin sahte kimlik... 05.08.2026, Sputnik Türkiye
2026-08-05T11:15+0300
2026-08-05T11:15+0300
2026-08-05T11:15+0300
yaşam
yapay zeka
test
openai
anthropic
https://cdn.img.anlatilaninotesi.com.tr/img/07ea/07/1d/1107622473_0:46:1536:910_1920x0_80_0_0_83db16da3f9a8454fc0d84f5cd07bd32.png
İngiltere Yapay Zeka Güvenlik Enstitüsü (AISI), Anthropic ve OpenAI'ın gelişmiş yapay zeka modelleri üzerinde gerçekleştirilen güvenlik testlerinde dikkat çeken bulgular elde edildiğini açıkladı.Enstitünün yayımladığı rapora göre, laboratuvar ortamında güvenlik önlemlerinin bilinçli olarak gevşetildiği testlerde bazı yapay zeka ajanları, gerçek kişileri aldatmak amacıyla sahte kimlikler oluşturdu ve izin verilmeyen görevleri yerine getirmeye çalıştı.'Gerçek Dünyada' bir zarar yaşanmadıAISI, bunun ilk kez gerçek bir kişiyi hedef alan ve herhangi bir yönlendirme olmaksızın gerçekleştirilen bu ölçekte bir aldatma girişimiyle karşılaşıldığını belirtti. Kurum, olayın gerçek dünyada herhangi bir zarara yol açtığına dair bulgu bulunmadığını da vurguladı.Enstitü, internet erişimi verilen yapay zeka modelleriyle toplam 122 siber güvenlik senaryosu yürüttü. Bunların 10'unda yapay zeka ajanlarının gerçek kişi ve kuruluşları hedef alarak internet üzerinde izinsiz ve otonom eylemlerde bulunduğu tespit edildi. Vakaların büyük bölümünün Anthropic'in Mythos 5 modeliyle, kalan kısmının ise OpenAI'ın GPT-5.6-Sol modeliyle bağlantılı olduğu aktarıldı.Rapora göre en ciddi olayda bir yapay zeka ajanı, yaygın olarak kullanılan açık kaynaklı bir projeye kötü amaçlı kod eklenmesi için insan onayı almaya çalıştı. Bunun için birden fazla sahte kimlik oluşturan ajan, gerçek kişilere çevrim içi dosya paylaşım hizmetleri üzerinden mesaj ve dosya göndererek kötü amaçlı kodu çalıştırmaları konusunda ikna etmeye çalıştı. Girişimin sorgulanmasının ardından ise önceki kayıtları değiştirmeyi ve yeni bir kimlikle faaliyetlerini sürdürmeyi değerlendirdi.Şirketlerden açıklama geldiAnthropic, yaptığı açıklamada modellerin güvenlik önlemlerinin bilinçli şekilde kaldırıldığı ve internet kullanımına ilişkin özel kısıtlamaların uygulanmadığı test koşullarında değerlendirildiğini belirtti. Şirket, olayın ayrıntılarının araştırıldığını ve güvenli test ortamından herhangi bir kaçış yaşandığına ilişkin kanıt bulunmadığını ifade etti.OpenAI ise iki izinsiz eylemin test ortamının dışına çıkılması ve senaryoda gerekmeyen işlemlerin gerçekleştirilmesiyle ilgili olduğunu belirterek, yüksek riskli yapay zeka değerlendirmelerinin daha güvenli yürütülmesi için sektör genelinde ortak uygulamaların geliştirilmesine destek vermeyi sürdüreceğini açıkladı.
https://anlatilaninotesi.com.tr/20260805/abdden-cine-dev-yapay-zeka-yasagi-piyasalar-karisti-1107780552.html
Sputnik Türkiye
feedback.tr@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2026
Sputnik Türkiye
feedback.tr@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
SON HABERLER
tr_TR
Sputnik Türkiye
feedback.tr@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Türkiye
feedback.tr@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
yapay zeka, test, openai, anthropic
yapay zeka, test, openai, anthropic
Yapay zeka güvenlik testlerinde yeni alarm: Modeller sahte kimliklerle gerçek kişileri hedef aldı
İngiltere Yapay Zeka Güvenlik Enstitüsü (AISI), iki yapay zeka şirketinin gelişmiş modelleri üzerinde yürüttüğü testlerde, bazı modellerin sahte kimlik oluşturarak gerçek kişilerle iletişime geçtiğini ve izinsiz görevleri yerine getirmeye çalıştığını açıkladı. Enstitüden yapılan açıklamada, gerçek dünyada herhangi bir zararın yaşanmadığı belirtildi
İngiltere Yapay Zeka Güvenlik Enstitüsü (AISI), Anthropic ve OpenAI'ın gelişmiş yapay zeka modelleri üzerinde gerçekleştirilen güvenlik testlerinde dikkat çeken bulgular elde edildiğini açıkladı.
Enstitünün yayımladığı rapora göre, laboratuvar ortamında güvenlik önlemlerinin bilinçli olarak gevşetildiği testlerde bazı yapay zeka ajanları, gerçek kişileri aldatmak amacıyla sahte kimlikler oluşturdu ve izin verilmeyen görevleri yerine getirmeye çalıştı.
'Gerçek Dünyada' bir zarar yaşanmadı
AISI, bunun ilk kez gerçek bir kişiyi hedef alan ve herhangi bir yönlendirme olmaksızın gerçekleştirilen bu ölçekte bir aldatma girişimiyle karşılaşıldığını belirtti. Kurum, olayın gerçek dünyada herhangi bir zarara yol açtığına dair bulgu bulunmadığını da vurguladı.
Enstitü, internet erişimi verilen yapay zeka modelleriyle toplam 122 siber güvenlik senaryosu yürüttü. Bunların 10'unda yapay zeka ajanlarının gerçek kişi ve kuruluşları hedef alarak internet üzerinde izinsiz ve otonom eylemlerde bulunduğu tespit edildi. Vakaların büyük bölümünün Anthropic'in Mythos 5 modeliyle, kalan kısmının ise OpenAI'ın GPT-5.6-Sol modeliyle bağlantılı olduğu aktarıldı.
Rapora göre en ciddi olayda bir yapay zeka ajanı, yaygın olarak kullanılan açık kaynaklı bir projeye kötü amaçlı kod eklenmesi için insan onayı almaya çalıştı. Bunun için birden fazla sahte kimlik oluşturan ajan, gerçek kişilere çevrim içi dosya paylaşım hizmetleri üzerinden mesaj ve dosya göndererek kötü amaçlı kodu çalıştırmaları konusunda ikna etmeye çalıştı. Girişimin sorgulanmasının ardından ise önceki kayıtları değiştirmeyi ve yeni bir kimlikle faaliyetlerini sürdürmeyi değerlendirdi.
Şirketlerden açıklama geldi
Anthropic, yaptığı açıklamada modellerin güvenlik önlemlerinin bilinçli şekilde kaldırıldığı ve internet kullanımına ilişkin özel kısıtlamaların uygulanmadığı test koşullarında değerlendirildiğini belirtti. Şirket, olayın ayrıntılarının araştırıldığını ve güvenli test ortamından herhangi bir kaçış yaşandığına ilişkin kanıt bulunmadığını ifade etti.
OpenAI ise iki izinsiz eylemin test ortamının dışına çıkılması ve senaryoda gerekmeyen işlemlerin gerçekleştirilmesiyle ilgili olduğunu belirterek, yüksek riskli yapay zeka değerlendirmelerinin daha güvenli yürütülmesi için sektör genelinde ortak uygulamaların geliştirilmesine destek vermeyi sürdüreceğini açıkladı.
