YENİ ŞEYLER REHBERİ

Yapay zekada parametre kavramı nedir? Ne işe yarar? Yapay zeka modellerinin parametreleri ne kadar?

Serhat Ayan, Yapay Zeka Günlüğü'nde parametre kavramını anlattı ve hangi işlemin ne kadar parametreye ihtiyacı duyduğunu anlattı.
Sitede oku
Yapay zekanın ne kadar iyi veya kötü olduğu parametreler ile ölçülüyor. Parametrenin yapay zeka alanındaki tanımı şu şekilde: Bir yapay zeka modelinin karmaşıklığını ve öğrenme kapasitesini ölçmek için kullanılan birim. Bir modelin ne kadar bilgi depolayabileceğini, ne kadar karmaşık görevleri yerine getirebileceğini gösteren bir sanal sayı.
Parametreler, bir yapay zeka modelinin sinir ağındaki bağlantıların sayısını temsil ediyor. Sinir ağı, beynin içindeki nöronlar gibi, bir modelin veriyi nasıl işlediğini ve öğrendiğini belirleyen bir algoritma. Her bağlantı bir parametreyi temsil ediyor ve modelin o veriyi alıp nasıl yorumladığını size anlatıyor.
Daha fazla parametreye sahip olan modeller genelde daha karmaşık işler yapabiliyor. Mesela yüz milyon parametreye sahip bir model, size metin ile alakalı işlemler yapabiliyor. Ama bir trilyon parametreye sahip bir model daha karmaşık işler yapabilir. Program yazabilir, uygulama üretebilir. Veya senaryo yazan yaratıcı yapay zekalar ve dil modelleri, bir trilyon parametre istiyor.
Daha fazla parametre ayrıca daha fazla bilgi depolama anlamına geliyor. GPT’ler, daha fazla parametre ile daha esnek hareket etmiş oluyor. Daha fazla parametresi olan yapay zekalar hem resim yapabiliyor, hem müzik besteleyebiliyor hem de yazılarınızı düzenleyebiliyor.
Öte yandan daha fazla parametrenin güç isteği de artıyor dolayısıyla çiplere olan ihtiyaç doğru oranda artıyor. Peki hangi işlem için yapay zekaların kaç parametreye ihtiyacı var?
Resim çizme işlemi: 100 milyon ile 1 trilyon arası parametre
GPT 3: 175 milyar parametre
GPT 4: Yaklaşık 1 trilyon parametre
Konuşma tanıma işlemi: 100 milyon ile 1 milyar arası parametre
Çeviri yapma işlemi, örneğin Google Translate: 500 milyon parametre

Hangi yapay zeka uygulamasının ne kadar parametresi var?

Google PALM AI: 540 milyar parametre
Microsoft Turing NLG: 17 milyar parametre
Meta Megatron Turing NLG: 530 milyar parametre
Google Lamda Model: 137 milyar parametre
OpenAI ChatGPT3: 175 milyar parametre
Yorum yaz