https://anlatilaninotesi.com.tr/20230330/elon-musk-dahil-sektorden-chatgpt-4ten-ustun-yapay-zeka-gelistirme-cabasina-ara-verilmesi-cagrisi-1068958348.html
Elon Musk dahil sektörden 'ChatGPT-4'ten üstün yapay zeka geliştirme çabasına ara verilmesi' çağrısı
Elon Musk dahil sektörden 'ChatGPT-4'ten üstün yapay zeka geliştirme çabasına ara verilmesi' çağrısı
Sputnik Türkiye
Sektörün Musk dahil 1000'den fazla yöneticisi ve uzmanının imzaladığı açık mektupta, insanlığa derin risk potansiyeli gerekçesiyle ChatGPT-4'ten daha ileri... 30.03.2023, Sputnik Türkiye
2023-03-30T16:36+0300
2023-03-30T16:36+0300
2023-03-30T18:46+0300
yaşam
yapay zeka
elon musk
chatgpt
ara
mola
tehlike
risk
https://cdn.img.anlatilaninotesi.com.tr/img/07e6/0a/0f/1062343107_0:159:3078:1890_1920x0_80_0_0_b007e912dbeb12eda9f9ad8a135554ad.jpg
Microsoft destekli OpenAI tarafından geliştirilen sohbet robotu (chatbot) ChatGPT-4'ün sektörü yerinden oynatmasıyla rakip çıkarma yarışının hızlandığı dönemde, Yaşamın Geleceği Enstitüsü isimli kar amacı gütmeyen kuruluş açık mektup yayımladı. Tesla, SpaceX, Twitter CEO'su Elon Musk, Apple kurucu ortağı Steve Wozniak, Stability AI CEO'su Emad Mostaque, DeepMind araştırmacıları gibi yapay zeka sektörü yöneticisi ya da uzmanı 1124 kişi tarafından imzalanan açık mektupta, GPT-4'ten daha güçlü sistemlerin geliştirilmesine 6 aylık ara verilmesi çağrısı yapıldı. 'İnsanlarla rekabet ediyorlar'Mola talebinin toplum ve insanlığa yönelik potansiyel derin risklerle gerekçelendirildiği açık mektupta şu soru yöneltildi:'Şimdi durup inceleme zamanı'OpenAI'nın kısa süre önceki "Bir noktada, gelecekteki sistemleri eğitmeye başlamadan önce ve yeni modeller oluşturmak için kullanılan bilgi işlemin büyüme oranını sınırlamayı kabul etmeye yönelik en gelişmiş çabalar için bağımsız inceleme almak önemli olabilir" paylaşımına atıf yapan açık mektupta şöyle denildi:'Kontrolden çıkmış bir yarışa kilitlendik'Açık mektupta şu eleştiriye yer verildi:'Risklere karşı politika yapıcılarla birlikte çalışılmalı'İnsanla rekabetçi yapay zeka sistemlerinin ekonomik ve siyasi aksamalar şeklinde toplum ve uygarlığa potansiyel riskler oluşturabileceği uyarısı yapan açık mektupta, yapay zeka geliştiricilerin politika yapıcılarla ve düzenleyici kurumlarla birlikte çalışmaları tavsiye edildi.'Etkilerinin olumlu ve risklerinin yönetilebilir olacağından eminsek'"Önerilen mola, yapay zeka geliştirmeyi daha doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmenin bir yolu olarak görülmelidir" denilerek, bu sırada yönetişim sistemleri oluşturmak için kanun koyucularla birlikte çalışılması gerektiği belirtildi. 'Bu tür tasarımlar için paylaşılan güvenlik protokolleri bağımsız uzmanlar tarafından geliştirilene, uygulanana ve denetlenene kadar ara verilmesi gerektiğinin' altı çizilerek "Güçlü yapay zeka sistemleri, yalnızca etkilerinin olumlu ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir" vurgusu yapıldı. Endişeliler korosu büyüyorChatGPT gibi ileri yapay zeka sistemlerine ilişkin etik ve yasal endişeleri dile getiren koroya haftabaşında katılan AB polis teşkilatı Europol, kimlik avı girişimleri, dezenformasyon ve siber suçlarda olası kötüye kullanımına dair uyarıda bulunmuştu.ChatGPT'nin geçen yıl piyasaya çıkması, rakipleri benzer ürünleri piyasaya sürmeye ve şirketleri de bu ve benzer teknolojileri uygulamalarına ve ürünlerine entegre etmeye teşvik etti.Musk da 'endişeliyim' dediYaşamın Geleceği Enstitüsü'nün destekçi ve danışmanlarından olan Elon Musk, kendi yapay zeka geliştirme çabalarıyla çelişir gözükse de, bu ay Tesla yöneticilerine hitabında "Yapay zeka olayı hakkında biraz endişeliyim" dedi. Gebru: Gerçekten korkmamız gerekBu yılın başlarında CBS'in Pazar Sabahı programında konuşan yapay zeka araştırmacısı Timnit Gebru, "Bütün bu şeylerden gerçekten korkmamız gerektiğini düşünüyorum" görüşünü paylaştı. Gebru, "Bir şeyi her yerde çoğaltmadan önce zararlarını anlamalı ve bunun gibi bir şeyi ortaya çıkarmadan önce bu riskleri azaltmalıyız" diye ekledi.
https://anlatilaninotesi.com.tr/20230322/gates-yapay-zeka-cagi-basladi-dedi-beyaz-yakali-calisan-ogretmen-doktora-gerek-kalmayacak-1068627800.html
https://anlatilaninotesi.com.tr/20230326/is-dunyasinda-yapay-zeka-devrimi-caiolar-degisimin-onculeri-olacak-1068812129.html
https://anlatilaninotesi.com.tr/20230324/1068713755.html
https://anlatilaninotesi.com.tr/20230317/1068397919.html
Sputnik Türkiye
feedback.tr@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2023
Sputnik Türkiye
feedback.tr@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
SON HABERLER
tr_TR
Sputnik Türkiye
feedback.tr@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Türkiye
feedback.tr@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
yapay zeka, elon musk, chatgpt, ara, mola, tehlike, risk
yapay zeka, elon musk, chatgpt, ara, mola, tehlike, risk
Elon Musk dahil sektörden 'ChatGPT-4'ten üstün yapay zeka geliştirme çabasına ara verilmesi' çağrısı
16:36 30.03.2023 (güncellendi: 18:46 30.03.2023) Sektörün Musk dahil 1000'den fazla yöneticisi ve uzmanının imzaladığı açık mektupta, insanlığa derin risk potansiyeli gerekçesiyle ChatGPT-4'ten daha ileri yapay zeka geliştirmeye 6 ay ara verilmesi istendi. Yapay zeka yarışının kontrolden çıktığına işaret eden metinde "Yerimizi alabilecek insan olmayan zihin geliştirmeli miyiz" sorusu yöneltildi.
Microsoft destekli OpenAI tarafından geliştirilen sohbet robotu (chatbot) ChatGPT-4'ün sektörü yerinden oynatmasıyla rakip çıkarma yarışının hızlandığı dönemde, Yaşamın Geleceği Enstitüsü isimli kar amacı gütmeyen kuruluş açık mektup yayımladı.
Tesla, SpaceX, Twitter CEO'su Elon Musk, Apple kurucu ortağı Steve Wozniak, Stability AI CEO'su Emad Mostaque, DeepMind araştırmacıları gibi yapay zeka sektörü yöneticisi ya da uzmanı 1124 kişi tarafından imzalanan açık mektupta, GPT-4'ten daha güçlü sistemlerin geliştirilmesine 6 aylık ara verilmesi çağrısı yapıldı.
'İnsanlarla rekabet ediyorlar'
Mola talebinin toplum ve insanlığa yönelik potansiyel derin risklerle gerekçelendirildiği açık mektupta şu soru yöneltildi:
Çağdaş yapay zeka sistemleri artık genel görevlerde insanlarla rekabet edebilir hale geliyor. Sonunda bize sayıca üstün gelebilecek, zekaca geçebilecek, bizi modası geçmiş hale getirebilecek ve yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz?
'Şimdi durup inceleme zamanı'
OpenAI'nın kısa süre önceki "Bir noktada, gelecekteki sistemleri eğitmeye başlamadan önce ve yeni modeller oluşturmak için kullanılan bilgi işlemin büyüme oranını sınırlamayı kabul etmeye yönelik en gelişmiş çabalar için bağımsız inceleme almak önemli olabilir" paylaşımına atıf yapan açık mektupta şöyle denildi:
Hemfikiriz. Şimdi o noktadayız. Bu, genel olarak yapay zeka geliştirmede duraklama değil, yalnızca geri adım anlamına geliyor.
'Kontrolden çıkmış bir yarışa kilitlendik'
Açık mektupta şu eleştiriye yer verildi:
İleri yapay zekaların dikkatle geliştirilmesi gerekirken, son aylarda laboratuvarların, hiç kimsenin -yaratıcılarının bile- anlayamayacağı, tahmin edemeyeceği veya güvenilir şekilde kontrol edemeyeceği daha güçlü dijital zihinler geliştirmek ve konuşlandırmak için kontrolden çıkmış bir yarışa kilitlendiğini gördük.
'Risklere karşı politika yapıcılarla birlikte çalışılmalı'
İnsanla rekabetçi yapay zeka sistemlerinin ekonomik ve siyasi aksamalar şeklinde toplum ve uygarlığa potansiyel riskler oluşturabileceği uyarısı yapan açık mektupta, yapay zeka geliştiricilerin politika yapıcılarla ve düzenleyici kurumlarla birlikte çalışmaları tavsiye edildi.
'Etkilerinin olumlu ve risklerinin yönetilebilir olacağından eminsek'
"Önerilen mola, yapay zeka geliştirmeyi daha doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmenin bir yolu olarak görülmelidir" denilerek, bu sırada yönetişim sistemleri oluşturmak için kanun koyucularla birlikte çalışılması gerektiği belirtildi.
'Bu tür tasarımlar için paylaşılan güvenlik protokolleri bağımsız uzmanlar tarafından geliştirilene, uygulanana ve denetlenene kadar ara verilmesi gerektiğinin' altı çizilerek "Güçlü yapay zeka sistemleri, yalnızca etkilerinin olumlu ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir" vurgusu yapıldı.
Endişeliler korosu büyüyor
ChatGPT gibi ileri yapay zeka sistemlerine ilişkin etik ve yasal endişeleri dile getiren koroya haftabaşında katılan AB polis teşkilatı Europol, kimlik avı girişimleri, dezenformasyon ve siber suçlarda olası kötüye kullanımına dair uyarıda bulunmuştu.
ChatGPT'nin geçen yıl piyasaya çıkması, rakipleri benzer ürünleri piyasaya sürmeye ve şirketleri de bu ve benzer teknolojileri uygulamalarına ve ürünlerine entegre etmeye teşvik etti.
Musk da 'endişeliyim' dedi
Yaşamın Geleceği Enstitüsü'nün destekçi ve danışmanlarından olan Elon Musk, kendi yapay zeka geliştirme çabalarıyla çelişir gözükse de, bu ay Tesla yöneticilerine hitabında "Yapay zeka olayı hakkında biraz endişeliyim" dedi.
Gebru: Gerçekten korkmamız gerek
Bu yılın başlarında CBS'in Pazar Sabahı programında konuşan yapay zeka araştırmacısı Timnit Gebru, "Bütün bu şeylerden gerçekten korkmamız gerektiğini düşünüyorum" görüşünü paylaştı. Gebru, "Bir şeyi her yerde çoğaltmadan önce zararlarını anlamalı ve bunun gibi bir şeyi ortaya çıkarmadan önce bu riskleri azaltmalıyız" diye ekledi.
