Tebrikler

#6
by psychip - opened

genelde huggingface'te koca koca firmalar sırf PR kasmak için hazır modeli yarım saat içinde fine tune edip yıllarını vermiş gibi burada yayınlıyorlar, türkçe dedikleri model ne hikmetse araya çince kelimeler karıştırabiliyor.

aksine burada tamamen türkçe odaklı ciddi bir çalışma var, rtx 3090 ile ses kalitesi gayet tatmin edici, 0.85x rtf ile konuşma hızından daha önce interference'i bitiriyor. bunu dijital asistan projemde kullanmayı düşünüyorum, başarılarınızın devamını dilerim.

Çok teşekkür ederim, güzel sözleriniz için. Amaç tam olarak buydu, Türkçeye odaklı, küçük ve hızlı bir model.
Dijital asistan projenizde başarılar, nasıl gittiğini duymak isterim.

Bu arada 3090'da 0.85 RTF beklenenden yavaş görünüyor: RTX 4090'da düz PyTorch ile 0.0115, EMA().lightning() ile 0.0023 ölçüyoruz, CPU'da dahi 0.166. Ölçüme model yükleme ya da ilk çağrı girmiş olabilir. torch.cuda.is_available() True dönüyor mu veya birde lightning() ile dener misiniz?

Evet tam olarak bir warmup sözkonusuydu. ikinci çağrıda 0.0074x RTF aldım
image

Son iki gündür farklı bir dataset ile fine tune olasılığı üzerinde çalışıyorum, rtx 6000 gpu ile birkaç başarısız girişimim oldu. bu konuyla ilgili bir makale yayınlamayı düşünüyormusunuz?

Sign up or log in to comment