İnsan zekasını kopyalama arayışında, yapay zeka silahlanma yarışının odak noktası başlangıçta kapsamlı veri kümeleri üzerinde eğitilmiş devasa modellerin yaratılması etrafında yoğunlaştı. Ancak son zamanlarda teknoloji devleri ve yeni kurulan şirketlerin dikkatlerini giderek daha ucuz ve daha hızlı, daha akıcı ve uzmanlaşmış yapay zeka yazılımlarına yöneltmesiyle dikkate değer bir değişim yaşandı.
Özellikle belirli görevler için tasarlanan ve daha az veriyle eğitilen bu daha küçük ve orta ölçekli dil modelleri, önemli bir popülerlik kazanmıştır. Daha büyük benzerlerinin aksine, 10 milyon doların altında bir maliyetle geliştirilebilirler ve 10 milyardan az parametre kullanabilirler. Karşılaştırma yapmak gerekirse, en büyük modellerden biri olan OpenAI'nin GPT-4o modelinin oluşturulması için 100 milyon dolardan fazla para gerekiyordu ve bir trilyondan fazla parametre kullanıldı. Bu modellerin daha küçük boyutu, daha düşük hesaplama gücü gereksinimleri ve sorgu başına daha düşük fiyatlar anlamına gelir.
Örneğin Microsoft, küçük modellerden oluşan Phi ailesine önem veriyor. Microsoft CEO'su Satya Nadella, bu modellerin OpenAI'nin ChatGPT'sinin arkasındaki modelin 1/100'ü boyutunda olduğunu ancak birçok görevi karşılaştırılabilir bir verimlilikle yerine getirebileceklerini iddia ediyor. Microsoft'un Ticari Baş Sorumlusu Yusuf Mehdi, büyük modellerin çalıştırılmasıyla ilgili beklenenden daha yüksek maliyetlere işaret ederek, farklı görevler için farklı modellere olan ihtiyacı vurguluyor. Ayrıca, Microsoft yakın zamanda arama ve görüntü oluşturmak için çok sayıda yapay zeka modeli kullanan yapay zeka dizüstü bilgisayarlarını piyasaya sürdü. Bu modeller, ChatGPT'de olduğu gibi, kapsamlı bulut tabanlı süper bilgisayarlara ihtiyaç duymadan cihazın kendisi üzerinde çalışır.
Mistral, Anthropic ve Cohere gibi Google ve AI girişimleri gibi diğer şirketler de daha küçük modeller yayınladı. Ayrıca Apple, telefonlardaki yapay zeka işlemlerinin hızını ve güvenliğini artırmak için küçük modelleri entegre etme planlarını da açıkladı.
Büyük modelleri savunmasıyla tanınan OpenAI, amiral gemisi modelinin daha uygun fiyatlı bir versiyonunu piyasaya sürdü ve gelecekte daha küçük modeller geliştirmeye odaklanmayı planlıyor. Büyük modeller, basit bir market alışverişi için tank kullanmaya benzer şekilde, belge özetleme veya görüntü oluşturma gibi görevler için aşırıdır. Öte yandan daha küçük modeller, önemli ölçüde daha düşük maliyetle benzer performans sunabilir. Bu modeller genellikle yasal belgeleri veya şirket içi iletişimleri yönetmek gibi belirli görevler için uyarlanır. AI21 Labs'tan Yoav Shoham, küçük modellerin yaygın kullanım için ekonomik olarak daha uygun olduğunu, sorulara yanıt verirken büyük modellerin gerektireceği maliyetin yalnızca çok küçük bir kısmını oluşturduğunu ileri sürüyor.
İşletmeler verimliliği artırmak ve maliyetleri azaltmak için bu küçük modelleri kolaylıkla benimsiyor. Örneğin Experian, yapay zeka sohbet robotları için daha küçük modellere geçti ve daha büyük modellerle benzer performansı ancak daha düşük bir maliyetle elde etti. Salesforce'tan Clara Shih, modeller genellikle aşırı harcamalara ve gecikme sorunlarına yol açtığından, daha küçük modellerin pratikliğine dikkat çekiyor.
GPT-4'ün OpenAI tarafından piyasaya sürülmesinden bu yana, büyük model geliştirmede önemli bir ilerleme kaydedilmedi ve bu da ilerlemenin durmasına neden oldu. Sonuç olarak, çabalar daha küçük modellerin verimliliğini artırmaya yönlendirildi. Microsoft'tan Sébastien Bubeck, büyük geliştirmelerde mevcut bir duraklama gözlemliyor ve verimliliği artırmaya yönelik çabaları teşvik ediyor.
Bu değişime rağmen büyük modeller ileri düzey görevler için hâlâ değer taşıyor. Apple ve Microsoft gibi şirketler, aşağıdaki gibi büyük modelleri birleştirmeye devam ediyor: Her ne kadar bu entegrasyonlar genellikle genel yapay zeka girişimlerinin yalnızca bir kısmını temsil etse de, ürünlerinde ChatGPT olarak yer alıyorlar. Bu ilerleme, yapay zekanın fütüristik gösterilerden pratik reklamlara dönüşümünü ifade ediyor.