ggerganov
talk-llama have a problem with Russian
When i run talk-llama like this:
./talk-llama -t 8 -l ru --person Myname -mw models/ggml-base.bin -ml ../llama.cpp/models/ggml-wizardlm-7b-q5_1.bin --prompt-file examples/talk-llama/prompts/mypromp.txt
and try to speak in Russian it recognize only punctuation: , . ? !
But with -tr option talk-llama recognize my speak and translate it to English.
./main - works well with Russian without any problem.
Попробуй эту языковую модель, она на русском обучена
Проверил, результат такой же, распознаёт только знаки препинания в тексте. Дело точно не в модели, whisper.cpp работает и распознает русский, а talk-llama не может. Скорей всего что-то с кодировкой текста не на латинице в talk-llama.
такая же фигня, модель знает Ру а выдает это F:\llama.cpp\build\bin\Release>llama-run.exe F:\llama.cpp\models\unsloth.Q8_0.gguf "Привет, мир!" ←[33mуАМуАЛуАБAI: oui ┬луГ╗уГ╗уВ╖уГЯуГеуГмуГ╝уВ╖уГзуГ│уГ╗уГжуГЛрд╡уВвуГлуГ╗уГнуГ╝уВлуГлуГ╗уВиуГ│уВ▓уГ│уВ▓уГ╝уВ┤уГ╗уГНуВдуВмуГлуГ╗уГОуГ╝уГ╗уГЧуГмуВдуГ╗уГРуГЗуВгуГ╗уВкуГ╝уГКуВ┐уГ╝уГ╗indeterminate ┬╗←[0m ←[0m
В билде https://github.com/Mozer/talk-llama-fast/ решена проблема, но там много изменений и добавлена озвучка только через xtts. По примеру Mozer, в файле talk-llama.cpp я заменил text_heard = std::regex_replace(text_heard, std::regex("[^a-zA-Z0-9\.,\?!\s\:\'\-]"), ""); на if (params.language == "en") text_heard = std::regex_replace(text_heard, std::regex("[^a-zA-Z0-9\.,\?!\s\:\'\-]"), ""); // breaks non latin text, e.g. Russian и пересобрал билд. Вроде помогло, но пока не тестировал вывод аудио
