Doğal dil işleme (NLP) alanında ve dil çevirisi veya metin oluşturma gibi dizi oluşturma görevleri alanında, hem ışın arama algoritması hem de açgözlü kod çözme, bir model verilen kelimelerin en olası dizisini tahmin etmek için kullanılır ve bir giriş sırası.
Açgözlü Kod Çözme
-
Temel Fikir: Açgözlü kod çözme, her adımda en yüksek olasılığa sahip kelimeyi seçerek çıktı dizisini yinelemeli olarak oluşturur.
-
Arama Alanının Keşfi: Gelecekteki sonuçları dikkate almadan her adımda en olası kelimeyi tercih ederek çıktı alanı boyunca tek bir yolu araştırır.
-
Aday Dizileri: Diğer olasılıkları göz ardı ederek her adımda yalnızca en olası diziyi takip eder.
-
Karar Verme: Yerel kararları, uzun vadeli olası sonuçları dikkate almadan, yalnızca mevcut adımdaki en yüksek olasılığa dayalı olarak alır.
Işın Arama
-
Temel Fikir: Işın araması, keşfi yalnızca en olası dizi yerine birden fazla olası diziye kadar genişletir.
-
Arama Alanının Keşfi: Bir dizi umut verici aday diziyi koruyarak aynı anda birden fazla yolu (veya "ışınları") araştırır.
-
Aday Diziler: Her adımda en olası dizilerin sabit sayısını (ışın genişliği parametresi tarafından belirlenir) tutar.
-
Karar Verme: Her adımda birden fazla aday dizisini dikkate alır ve o ana kadarki kümülatif olasılıklara göre en olası olanları seçer.
Işın Genişliği Parametresi ve Dengelemeler
- Işın Genişliği: Her adımda sürdürülecek aday dizilerin sayısını belirler. Daha büyük bir ışın genişliği daha fazla olasılığı araştırır ancak hesaplama karmaşıklığını artırır.
Ödüşümler:
-
Çeşitlilik ve Doğruluk: Daha büyük bir ışın genişliği, oluşturulan dizilerdeki çeşitliliği teşvik eder ancak doğruluktan ödün verebilir. Tersine, daha küçük bir genişlik daha doğru sonuçlar verebilir ancak çeşitlilikten yoksun olabilir.
-
Hesaplama Maliyeti: Işın genişliğinin arttırılması, gereken hesaplama kaynaklarını önemli ölçüde artırır.
Çeşitliliği ve Doğruluğu Ele Alma
- Işın araması, yönetilebilir bir aday kümesini korurken birden fazla dizinin araştırılmasına izin vererek çeşitlilik ve doğruluğu dengelemeye çalışır. Uzunluk normalizasyonu veya farklı ışın arama varyasyonları gibi teknikler, kaliteden çok fazla ödün vermeden çeşitliliği artırabilir.
Sınırlamalar ve Yetersiz Sonuçlar
-
Yetersizlik: Işın araması, her adımdaki en olası sıralamanın en iyi genel sıralamaya yol açmaması durumunda optimumun altında sonuçlar üretebilir.
-
Keşif Eksikliği: Yerel optimuma takılıp kalabilir, özellikle de gerçek optimal dizi her adımda en olası tek tek kelimelerden önemli ölçüde saparsa.
-
Üstel Büyüme: Arama alanı ışın genişliğiyle birlikte üstel olarak büyür ve bu da hesaplama gereksinimlerinin artmasına neden olur.
Uzunluk cezaları kullanmak, çeşitli ışın arama varyantları veya ek kısıtlamalar eklemek gibi stratejiler bu sınırlamalardan bazılarını hafifletebilir, ancak geniş arama alanlarını etkili bir şekilde keşfetmenin doğasında olan zorlukları tamamen çözemeyebilirler. Araştırmacılar genellikle belirli görev gereksinimlerine ve ihtiyaç duyulan çeşitlilik ile doğruluk arasındaki dengeye dayalı olarak farklı kod çözme stratejileriyle denemeler yapar.
