RVC Stalker Voices - нейросетевые голосовые модели персонажей Сталкера

[Warlock700 121]

Здравствуйте, Сталкеры.

Ни для кого не секрет, что нейросети сейчас развиваются семимильными шагами, в свою очередь хотел бы Вам представить возможности одной из них.

---

    RVC-Project - проект, чьей основной задачей является обучение голосовых моделей и преобразование с их помощью аудиофайлов. Достаточно нескольких минут в качестве образца речи, чтобы получить практически идентичный голос, сохранив основные его черты, и я не мог пропустить такую возможность в отношении сталкерских голосов. Мною было обучено несколько моделей, основанных на речи персонажей из вселенной Сталкер.
Для наглядной демонстрации предоставляю Вашему вниманию видеоролик, где собраны примеры по всем моделям, которые успел выпустить на текущий момент.

Примечание: все демонстрационные ролики на текущий момент расположены на Youtube. Для их корректного отображения используйте средства обхода ограничений. Ролики так же можно найти в ВК группы канала: https://vk.com/warlock700group

---

---

Созданные модели не являются финальными версия, по мере возможностей они будут улучшаться и переобучаться в случае создания новых алгоритмов или улучшения обучения, выхода новых версий RVC, а так же при использовании новых версий предобученных баз. На текущий момент предобученная база основана на англоязычном дата-сете, в связи с чем на иных языках появляются заметные уху артефакты. Существуют неофициальные предобученные русскоязычные базы, под которые со временем будут переобучены все модели. Ссылки на них будут добавлены в данной теме по мере их выхода.

---

Развитие проекта:

Спойлер

13.02.24 - обучена модель Чехова и других свободовцев, озвученных голосом Григория Германа, проходит тестирование;
13.02.24- обучена модель группировки Наемники, проходит тестирование;
13.02.24 - обучена модель Лесника, проходит тестирование;
13.02.24 - обучена модель речи Андрея Прохорова, основанная на черновых и релизных фразах, проходит тестирование;
13.02.24 - обучена модель Дегтярева, проходит тестирование;
13.02.24 - обучена модель коменданта Халецкого, проходит тестирование;
15.02.24 - протестирована и загружена модель Дегтярева;
15.02.24 - протестирована и загружена модель отца Валерьяна;
15.02.24 - протестирована и загружена модель Чехова и других бойцов Свободы в исполнении Григория Германа;
20.02.24 - протестирована и загружена модель Лесника;
21.02.24 - протестирована и загружена модель коменданта Халецкого;
22.02.24 - обучается, а в последствии будет протестирована модель новичков в озвучке Руслана Гофурова;
23.02.24 - обучена модель Лебедева, проходит тестирование;
04.03.24 - протестирована и загружена модель новичков в исполнении Руслана Гофурова;
04.03.24 - протестирована и загружена модель голосов персонажей, озвученных Андреем Прохоровым;
04.03.24 - протестирована и загружена модель Ковальского из ЗП и Мельника из первых двух частей Метро 2033;
14.03.24 - протестирована и загружена модель Лебедева;
06.04.24 - протестирована и загружена модель голосов персонажей, озвученных Иваном Розиным; (Гонта, Гаваец и др.)
29.04.24 - загружена оффтоп модель Мельника из Метро 2033 Исход.
17.05.24 - протестированы и загружены модели (разные претрейны) персонажей, озвученных голосом Алексея Череватенко (Борода, Ной и др.)
30.11.24 - протестированы и загружены оффтоп модели (разные претрейны) персонажей, озвученных голосом Владимира Плахова
30.11.24 - протестированы и загружены модели (разные претрейны) персонажей, озвученных голосом Владимира Терещука
30.11.24 - протестированы и загружены обновленные модели (разные претрейны и хуберты) Сидоровича
30.11.24 - протестированы и загружены модели (разные претрейны и хуберты) персонажей, озвученных голосом Игоря Мельника
С 01.01.25 по 12.10.2025 -  протестированы и загружены новые модели, обученные на новой точности fp32:
   - Сталкеры в противогазе;
   - Бандиты в противогазе;
   - Наемники в озвучке Германа;
   - Наемники в озвучке Германа в противогазе;
   - Наемники в озвучке Терещука;
   - Свобода в противогазе;
   - Долг в противогазе;
   - Чистое небо в озвучке Вилкова;
   - Военные в противогазе;
   - Бандиты в озвучке Терещука.
Добавлены обновленные модели, обученные с повышенной точностью fp32:
   - Череватенко - Монолит (по умолчанию в противогазе);
   - Вилков - Долг;
   - Герман - Бандиты;
   - Герман - Чехов;
   - Зорин - Флинт;
   - Терещук - Военные.
   - Стальчук - Сталкеры;
   - Розин - Сталкеры;
   - Малуха - Сталкеры+Новички;
   - Малуха - Экологи; (по умолчанию противогазе)
   - Богуш - Свобода.
31.10.2025 - протестированы и загружены новые модели, обученные на новой точности fp32:
Яценко - Военные Припяти;
Вилков - Сидорович.
Добавлены обновленные модели, обученные с повышенной точностью::
Борисенок - Лесник;
Подубинский - Сидорович;
Герман - Валерьян;
Пашин - Ковальский;
Тимошенко - Халецкий.

---

Ссылки на программное обеспечение, вводная информация  и руководства:

Спойлер

RVC-Project - обучение моделей, преобразование аудиофайлов - скачать

Voice-changer от W-Okada - преобразование голоса в реальном времени  - скачать
Applio - fork RVC, доступны все функции оригинального проекта, есть встроенный Text-to-Speech и преобразование голоса в реальном времени - скачать
RVC-TTS - версия программы, способная генерировать любой текст и озвучивать его встроенными в движок Edge моделями с последующим преобразованием полученного результата голосовой моделью RVC.
Скомпилированный пользователем с просторов сети RVC TTS:
https://drive.google.com/file/d/1Lf6LOyFUcMh6BYcNTv_xPw4M_aSBNgb8/view
Страница с кодом и инструкцией по самостоятельной компиляции:
https://github.com/litagin02/rvc-tts-webui

Спойлер

При обучении моделей используются разные методы обработки, предобученные базы (далее претрейны) и модели hubert. Число моделей проекта RVC Stalker Voices постоянно растет, а краткое описание названий данных моделей вызывает недопонимание. Чтобы внести ясность необходимо предоставить вводную информацию и рассказать про каждый тип модели. И, пожалуй, стоит начать с теории:
HuBERT — это модель для самообучающегося представления речи. Она основана на методах, похожих на используемые в модели BERT (Bidirectional Encoder Representations from Transformers), но адаптирована для обработки аудиосигналов. Основная идея HuBERT — обнаружить дискретные скрытые единицы, чтобы преобразовать речевые данные в более «языковую» структуру. HuBERT можно использовать для автоматического распознавания речи, а также для её генерации.

ContentVec — это сеть для обучения речевых представлений, которая стремится удалить информацию о говорящем, предотвращая потерю содержательной информации. Метод основан на платформе HuBERT и включает механизмы для регуляризации как учительских меток, так и полученных представлений. 

Pretrained model — это предварительно обученная модель в области глубокого обучения, которая обучается на больших датасетах для выполнения конкретной задачи. Такая модель служит основой для различных задач, используя усвоенные закономерности и особенности. После обучения pretrained модель проходит процесс тонкой настройки, где веса и параметры модели корректируются для адаптации к конкретной задаче.

Все доступные на текущий момент базы речевых представлений и предобученных моделей доступны по ссылке:
https://huggingface.co/Politrees/RVC_resources
Больше информации о претренированных моделях:
https://docs.google.com/document/d/1j9J8A8Oop9bMOHmCs3jDXzPujuD6TQ0Q396rJ0MyuIc

Какие имеются на текущий момент модели представления речи:
- hubert_base - основная модель, встроенная в клиенты RVC и некоторых форков по умолчанию. Создана Facebook.
- contentvec - основная модель для последних версий Applio (форк RVC) и установленная по умолчанию. Имеет более высокую точность, в сравнении с hubert_base. (подробнее тут - ссылка) Если не вдаваться в подробности, то можно посмотреть результаты сравнения на скриншоте ниже. Создана группой программистов, чьи имена можно узнать из статьи по ссылке выше.



- hubert-japanese - модель hubert, основанная на hubert_base и обученная на образцах японского языка общим объемом более 19000 часов. Обучена группой энтузиастов, проект имеет название rinna. И, как бы странно это не звучало, но фонетически японский язык очень приближен к русской речи, благодаря чему конечный материал имеет хорошую дикцию, а так же высокую точность преобразования.
- hubert-chinese - модель hubert, обученная на базе WenetSpeech, материал для которой был набран в основном с YouTube и подкастов, охватывая различные типы сцен записи, фоновый шум, стили речи и т. д. Использовались аудиокниги, повествования, документальные фильмы, телесериалы, интервью, новости, чтения, выступления, развлекательные шоу и другие. Создана TencentGame. Модель так же имеет хорошую дикцию при работе с русской речью, но меньшую точность. Хорошо подойдет для необработанных аудиофайлов с "грязью".
- hubert-korean - модель hubert, основанная на hubert_base, профинансированная министерством науки Кореи и обученная на образцах корейской речи в более 2000 часов. Создана группой lucid. Данная модель использовалась единожды при обучении модели Сидоровича и показала плохие результаты при преобразовании, внося дефекты в произношение. В дальнейших моделях использоваться не будет.
- hubert-portuguese - модель hubert, обученная на португальском языке. Информацию по модели найти не удалось, создана shiromiya. Обученных моделей нет, качество произношения неизвестно. Обучение моделей не планируется.
- hubert-russian - статус модели: создается сторонними авторами.

Какие имеются предварительно предобученные базы - данные с сайта Applio:
- Rigel - информация будет добавлена позднее
- Snowie 3.1 - обучена на данных русского и японского языков. Помогает улучшить произношение на других языках. Частота дискретизации: 32k, 40k, 48k.
- RIN_E3 - обучена с нуля на большом наборе данных на английском языке. Рекомендуется использовать с высококачественными наборами данных из-за чувствительности к шуму. Частота дискретизации: 40k.
- Ov2Super - база, хорошо подходящая для небольших, чётких наборов данных на английском языке. Обучается на ярких, эмоциональных голосах. Требуется меньше эпох обучения. Частота дискретизации: 32k, 40k.
- TITAN - надёжная универсальная модель, которая даёт чистые результаты и хорошо справляется с акцентами и шумами. Требует меньше эпох обучения. Частота дискретизации: 32k, 40k, 48k
- itaila  - информация будет добавлена позднее
- KLM 4.1- обучена на данных корейского, японского и английского языков. Идеально подходит для создания вокальных гидов на основе коротких высококачественных студийных записей. Чувствителен к шуму. Частота дискретизации: 32k, 48k
- SingerPretrain - идеально подходит для английских певцов. Подходит для широкого диапазона вокальных типов, от баса до сопрано. Частота дискретизации: 32k.
- Anime - информация будет добавлена позднее
- DMR v.1 - тонкая настройка для голосов e-girl, мягких мужских/женских и глубоких мужских/женских голосов. Лучше всего работает с чистыми наборами данных и алгоритмом извлечения высоты тона Mangio-Crepe/Crepe. Частота дискретизации: 32k.
- UKR - информация будет добавлена позднее
- UKA - информация будет добавлена позднее
- IMA_Robotic - информация будет добавлена позднее
- Nanashi v1.7 -обучена на бразильских композиция. Хорошо подходит для португальского и других языков. Справляется с шумом и требует меньше обучающих эпох. Частота дискретизации: 32k.

В случае с моделями RVC Stalker Voices, помимо использования разных претрейнов и моделей hubert используются так же разные методы их обработки. Для простоты понимания и наглядности в качестве примера будет взята модель Сидоровича:
sidorovich_v2 (другие названия: sidorovich_v2-original, sidorovich_v2-ogg) - модель, обученная на второй версии претрейнов (все модели обучены на версии v2) и в которую не было внесено никаких изменений. В обучении участвуют только оригинальные файлы. Модели обучаются на hubert_base и contentvec.
ВАЖНО - все модели изначально обучаются на пресете для частоты 40 Кгц, ввиду наибольшего распространения претрейнов и, со слов других энтузиастов, более лучших конечных результатов.
sidorovich_v2_no-noise - модель, обученная после удаления шума. Используется встроенный в Adobe Audition инструмент шумоподавления с акцентированием на высокие частоты, в редких случаях второй "проход" осуществляется для низких частот. Если материал очень "грязный" - используются дополнительно плагины VST. Модели обучаются на hubert_base и contentvec.
sidorovich_v2_comp_de-esser_no-noise - модель, обученная на основе образцов no_noise с применением встроенного в Adobe Audition инструмента де-эссеризации, а так же компрессии. Пресеты во всех моделях используются одинаковые и не настраиваются точечно. Если Вы умеете тонко работать со звуком, то можете использовать no_noise модель и обработать материал на выходе самостоятельно. Модели обучаются на hubert_base и contentvec;
sidorovich_v2_no_noise_auto_nectar - модель, обученная на основе образцов no_noise с применением автоматической обработки плагином iZotope Nectar 4. Применяются такие эффекты, как эквализация, компрессия, сатурация, де-эссеризация и другие, примененные в ходе анализа ИИ образцов голоса для модели. Модели обучаются на hubert_base и contentvec;
sidorovich_v2_comp_de-esser_no-noise-название_претрейна - модель, использующая в своей основе образцы для модели comp_de-esser_no-noise и обученная на указанном претрейне. Название претрейна, если он использовался, всегда находится в конце имени. Модели обучаются на hubert_base и contentvec;
sidorovich_v2_comp_chinese (другое название - comp_china) модель, использующая в своей основе образцы для модели comp_de-esser_no-noise и обученная на модели hubert_chinese;
sidorovich_v2-comp_japanese (другое название - comp_japan) - модель, использующая в своей основе образцы для модели comp_de-esser_no-noise и обученная на hubert_japanese;
sidorovich_v2-comp-korean - модель, использующая в своей основе образцы для модели comp_de-esser_no-noise и обученная на hubert_korean.  В дальнейших моделях применяться не будет.

В 2025-м году все модели стали переобучаться только на алгоритме contentvec в RVC - такие модели имеют приписку "new", однако установить в него можно только его legacy версию. Поэтому, начиная с сентября, модели стали обучаться на новой точности FP32 и исключительно в Applio.
FP32 (Single Precision) — формат точности чисел с плавающей точкой, который обеспечивает баланс между точностью и эффективностью. 
Модели, обученные на этой точности, на момент написания являются наиболее лучшими в передаче тона голоса, используемого в ходе обучения, а так же качественнее передают тональность голоса донора. По этой же причине тональность донора рекомендуется подбирать с помощью игры голоса, либо опцией "предлагаемая высота тона".
Помимо этого хорошо себя зарекомендовала предварительная нормализация через Applio при подготовке дата-сета к обучению.
Обученные с изменениями модели имеют схожее обозначение с приведенными ранее, но с небольшим расширением - приписка "fp32" означает, что модель обучена на новом виде точности, а normal, что выполнена предварительная нормализация датасета. Такие модели по умолчанию обучаются на contentvec, но в случае, если используется другая модель опознания речи, то это будет указано дополнительно. На примерах:
sidorovich-fp32-comp-de_esser_no-noise - модель, обученная на новой точности fp32, на модели опознания речи contentvec,  очищена от шумов и обработана компрессором с де-эссером.
sidorovich-fp32-comp-japanese-showie3.1 - модель, обученная на новой точности fp32 и использующая в своей основе образцы дата-сета comp_de-esser_no-noise на модели опознания речи hubert_japanese, 

Спойлер

В данном руководстве будут описана специфика работы в нейросети RVC: преобразование и обучение моделей.
В качестве примера будет использоваться форк данного проекта - Applio, поскольку основной проект на текущий момент давно не обновляется создателем, в то время как в Applio было внесено много полезных, а так же спорных решений, но обо всем по порядку. Сразу поясню, что в руководстве не будет объясняться каждая функция программы, но информации в нем будет достаточно для полноценной работы.
В первую очередь стоит начать с того, где скачать, а так же как запустить программу.
Скачать ее можно с официального репозитория автора - Hispano. Вы можете скачать как исходники проекта на Github и скомпилировать проект самостоятельно, так и скачать уже скомпилированную программу на Hugging Face.
Для простоты использования рекомендуется скачивать скомпилированную версию программы самой последней версии, поскольку с каждым новым обновлением разработчик вносит множество изменений, которые добавляют новые функции и отлаживает работу старых. Не исключено, что в определенные моменты именно то, что Вам нужно, будет находится в новой версии программы, поэтому периодически рекомендую программу обновлять. На момент написания руководства финальной версией является Applio 4.2.7.
Скачиваем и распаковываем архив. В папке ищем и запускаем run-applio.bat - откроется командная строка. Первый запуск программы всегда долгий, это актуально так же и для запуска программы после перезагрузки ПК.
При корректном ассоциировании открытия ссылок у Вас должна будет открыться страница localhost с портом 6969, если этого не произойдет, то скопируйте адрес из командной строки веб-интерфейса программы или перейдите по ссылке http://127.0.0.1:6969 в любом браузере.

При старте нас встретит окно Вывода.
Поле "голосовая модель" позволяет выбрать модель для преобразования аудиофайла, а поле для "индексный файл" - индекс. Для корректного обнаружения этих файлов рекомендую размещать их в папку logs программы. Модель и индекс можно скачать на просторах сети. В папке logs можно создавать подпапки и они не будут препятствовать определению файлов, поэтому если Вы сторонник удобства, то рекомендую файлы модели и индекса размещать сразу папкой в logs.
Чуть ниже имеются кнопки выгрузки голоса и обновления. Первая кнопка убирает модель в качестве используемой, вторая - позволяет заново выполнить сканирование папок. Очень полезно в тех случаях, когда в папку добавляется новая модель после запуска программы, в ином случае ее потребовалось бы перезагружать.
Следующее поле позволяет выбрать тип преобразования - одиночный, либо пакетный.
В случае с одиночным преобразованием все очень просто - укажите путь, либо перекиньте файл с аудио, который хотите преобразовать. Для пакетного преобразования необходимо указать путь сначала для файлов, которые необходимо преобразовать, а затем указать путь (или оставить по умолчанию) для конечный файлов, которые будут получены после преобразования.
Далее можно обнаружить поле "Выберите аудио". Каждый добавленный нами файл дублируется в папку Applio\assets\audios и Вы можете переключаться между ними, если Вы выполнили несколько преобразований. При желании даже можно преобразовать снова тот файл, который будет получен в итоге, поскольку по умолчанию они так же находятся в данной папке и имеют тоже название, что и преобразованный файл с именем в конце _output и выбранное расширении.  
Теперь нас ждет самое важное и объемное поле - "расширенные настройки". Хотел бы так же обратить Ваше внимание на то, что применение любых параметров из списка, кроме алгоритма и embedder mobel, при повторном преобразовании файла происходит очень быстро, поэтому при желании Вы можете ознакомиться с влиянием каждого эффекта посредством повторных преобразований. Рекомендую переименовывать выходной файл в тех случаях, когда имеется желание сравнить результаты.
Теперь начнем по порядку по каждому пункту:
- Очистить выходные данные: нажатие по ней удаляет все файлы, которые были получены при преобразовании. Файл, который будет преобразовываться, остается в папке. Отмечу, что повторное преобразование будет длительным.
- Export format: Дословно "формат экспортирования". Рекомендуется использовать тот же формат, что у оригинального файла. Форматы wav и flac являются наиболее предпочтительными, поскольку эти типы используют сжатие без потерь, однако при этом полученные файлы будут большого объема. Насколько качественными будет сжатие в другие форматы я, увы, не смогу сказать - как я понимаю для всех процедур используется ffmpeg, а это весьма качественный набор библиотек, поэтому выбор формата исключительно на Ваше усмотрение.
- Разделить аудио: Нарезка выходного аудиофайла на фрагменты при преобразовании. Использование на Ваше усмотрение, поскольку не всегда отрабатывает корректно и может сократить конечный файл до 30 секунд. Может быть полезно для слабых устройств или файлов большого объема, которые не могут быть обработаны за раз.
- Автотюн: добавление эффекта автотюна, используется для вокала. Использование на Ваше усмотрение и зависит от творческого видения. Сразу выскажу свое мнение по дополнительным эффектам, чтобы в последствии не повторяться - по гораздо проще и удобнее обработать выходной аудиофайл в аудиоредакторе, чем использовать эффекты при преобразовании, поскольку в этом случае у Вас не будет возможности откатиться на предыдущий результат, изменить какие-то определенные участки и т.д. Если же у Вас не хватает навыков и Вы не хотите осваивать аудиоредакторы для добавления необходимых эффектов, то можете попробовать сделать это через сам Applio. Я же в свою очередь продолжу.
- Очистить аудио: встроенный шумодав, он же de_noiser - очистка аудио от шумов. Количество шумов зависит напрямую от использованных при обучении моделей аудиофайлов. Чем чище модель, тем меньше шумов, особенно если аудиоматериалы прошли пост-обработку, поэтому как и с автотюном - использование на Ваше усмотрение.
- Upscale audio: улучшение качества звучания конечного файла. В логах не сообщается, каким именно образом происходит улучшение, поэтому используйте по Вашему усмотрению. Примечание от автора: рекомендуется использование для низкокачественного аудиосигнала, увеличивается время обработки
- Formant shifting: увы, не смогу дать пояснения и рекомендации по данному пункту. Примечание от автора: Включиние сдвиг формант. Используется для преобразования мужского голоса в женский и наоборот.
- Post-process: пост-обработка выходного файла. Наложение эффектов и их последующая настройка, множество опций необходимы для вокала или иного творческого замысла.
Сейчас же мы наконец-то дошли до этапа, который напрямую влияет на выходной материал при преобразовании моделью. Итак:
- Высота тона: указания тона для преобразуемого файла. Низкий тон делает голос более грубым, а высокий с точностью наоборот. Если Ваш голос отличается в ту, либо иную сторону от голоса модели, то с помощью изменения значения в данном пункте можно улучшить конечное преобразование и приблизиться к голосу того человека, на основе которого была создана модель. Для преобразования из женского голоса в мужской рекомендуются значения:  -12, из мужского в женский: +12, но присутствует зависимость от особенностей голоса, поэтому лучше подбирать значения самостоятельно.
- Радиус фильтра - включение фильтрации для уменьшения излишнего дыхания. Рекомедуется оставлять значение на 3.
- Соотношения объектов поиска - один из главных параметров при преобразовании, который при неправильных значениях может исказить конечный результат. Поскольку большинство моделей на момент выпуска гайда обучено на англоязычном претрейне, то высокие значения индекса могут привести к деффектам произношения, но в тоже время, чем выше значение индекса, тем наиболее близко преобразованный голос будет похож на голос модели. Во многом качество и отсутствие акцента преобразования с высоким индексом зависит от схожести изначального голоса и голоса модели и чем они ближе, тем ниже шанс возникновения артефактов и акцента при наибольшей похожести. Мои рекомендации будут следующими - установите значение индекса на 0 и выполните преобразование, скорректируйте другие значения для получения наилучшего результата, а уже после увеличивайте индекс до появления заметных дефектов преобразованного голоса.
- Огибающая громкости: смещение громкости конечного файла. При значении на 1 используется тот же уровень громкости, что и у оригинального аудиофайла. Полезно в тех случаях, если изначальный материал слишком тихий или громкий, может помочь в тех случаях, когда оригинальный материал записан с перегрузом.
- Защита глухих согласных: по умолчанию значение установлено на 0.5, при котором функция отключена. Уменьшение значение приводит к предотвращению артефактах на согласных. При нулевом индексе влияние защиты минимально, а то и вовсе отсутствует. Чем ниже значение защиты, тем больше оказывается эффект, но снижаются параметры индекса черт голоса модели. Говоря иначе - меньше шанс возникновения артефакта, но при этом меньшая приближенность к голосу модели. Количество артефактов у голоса, отличного от английского (для моделей, созданных на английском hubert) может не уменьшиться со снижением значения.
- Алгоритм извлечения высоты тона: выбор алгоритма преобразования файла. Наиболее частыми в использовании являются rmvpe, fcpe и их сочетание. Так же rmvpe является наиболее распространенным алгоритмом для RVC v2, поскольку большинство моделей были изначально обучены на нем, FCPE недоступен для обучения. Rmvpe имеет хорошее сочетание производительности, качества и точности, FCPE так же имеет высокое качество, но самое главное - высокую скорость работы, в связи с чем он хорошо показал себя при преобразовании в реальном времени. Преобразование в реальном времени можно осуществить с помощью Voice-Changer от w-okada, о котором будет рассказано позднее. Ввиду малого числа материала в ру-сегменте по самому проекту, а тем более по используемым в RVC алгоритмам, я не смогу предоставить подробные данные по сравнению этих двух алгоритмов. Считается, что FCPE лучше подходит для преобразования речи, особенно в реальном времени, в то время как RMVPE лучше подходит для вокала. Связано это с лучшей точностью и совпадением последнего, благодаря чему полученный с RMVPE голос будет гораздо более приближен к голосу модели, в то время как FCPE будет быстрее справляться с поставленной задачей и иметь меньше артефактов.
Мое мнение такого, что стоит преобразовывать материал сразу на двух алгоритмах, то есть один экземляр на Rmvpe, а второй на FCPE и уже в дальнейшем выбирать наиболее удачные "дубли".
- embedder Model: важнейший из всех параметров, используемых для преобразования речи. Для версии Applio 4.2.7 стандартная модель hubert, обученная на англоязычной базе голосов, была заменена на contentvec. Contentvec является приемником hubert, имеет большую точность и меньшее число ошибок в определении произношения в сравнении с другими алгоритмами. Но, как в случае с hubert - обучение базы производилось на англоязычной речи, в связи с чем произношение на иных языках может иметь дефекты и артефакты. Помимо contentvec в Applio доступны так же и другие базы, созданные на китайском, японском и корейском, которые в некоторых аспектах ближе по произношению к русскому, чем английский. Однако, в отличии от contentvec, свободно работающим с моделями, обученными hubert-base (англоязычной базы) преобразование файла с другими базами, увы, несовместимо, ввиду невозможности сопоставления произношения. В этом случае для использования hubert на иных языках необходимо использовать именно ту модель, которая обучалась на этом же hubert.
С качеством произношения на разных hubert Вы можете самостоятельно ознакомиться в приложенной ниже демонстрации моделей, основанных на одном и том же наборе аудиофайлов: (далее "датасете")
(ссылка)
Итак, мы добрались до финала и готовы преобразовать голос на выбранных нами параметрах. После завершения процесса доступны различные функции при воспроизведении, а так же сохранения полученного материала. По функционалу воспроизведения, думаю, не требуются особые пояснение, а вот по сохранению есть моменты, которые стоит уточнить. По стрелке, расположенной в правом верхнем углу поля "экспортировать аудио" можно сохранить преобразованный нами аудиофайл. Этот же файл доступен в папке ...\assets\audios\, он имеет тоже название, что и наш изначальный файл с дополнительным комментарием _output. Данный файл будет доступен в папке до момента очистки преобразованных аудиодорожек, либо пока мы не выполним повторное преобразование, поэтому если Вас устраивает полученный результат, но по какой-то причине Вам не удалось сохранить его через браузер, то рекомендую перенести его в любую другую папку, чтобы ненароком его не перезаписать.
С преобразованием голоса голосовой моделью все, максимально подробно, в меру моих познаний и опыта работы с RVC, далее я расскажу о другой функционале Applio и начну я с TTS, он же Text-to-speech, он же Текст-в-речь. Обучение модели пока пропустим, поскольку там есть много того, на чем стоит сделать акцентировать.

Переходим на вкладку TTS
Левое и правые поля схожи с выбором модели для преобразования - выбирайте желаемую и укажите индекс, если тот не подцепится автоматически.
Голоса TTS - это голосовые TTS модели на движке Edge. Для разных языков имеется несколько вариантов, отличающихся произношением, полом и самим голосом. Для примера: для английского имеется вариант американского, австралийского и другие вариации произношений.
для русского языка их лишь два: мужской - RU-DmitryNeural, а так же RU-SvetlanaNeural. Советую просто набрать в строке поиска RU, чтобы сразу вывести в списке нужную модель.
Следующее поле позволяет выбрать вариант ввода текста и для Applio доступны как ввод текста в интерфейсе программы, так и загрузка файла в формате .txt.
Все остальные поля в разделе "Расширенные настройки" совпадают по функционалу с ранее описанным при преобразовании аудио.

Теперь об обучении.
(будет добавлено позднее)

Демонстрация моделей и ссылки на скачивание:
 

Спойлер

 

Скачать c Weight-GG
Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Weigh-GG (модель Sidorovich-comp_de-esser_no-noise)
Скачать с Hugging-Face (все доступные модели)

 

Спойлер

Скачать c Weight-GG
Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать c Weight-GG
Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать c Weight-GG
Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать c Weight-GG
Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать c Weight-GG
Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Weight-GG
 

Спойлер

Скачать с Weight-GG 
Скачать с Hugging-Face (все доступные модели)
 

Спойлер

Скачать с Weight-GG
 

Спойлер

Скачать с Weight-GG
Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Weight-GG
 

Спойлер

Скачать с Weight-GG
Скачать с Hugging-Face (все доступные модели)
 

Спойлер

Скачать с Weight-GG
Скачать с Hugging-Face (все доступные модели)
 

Спойлер

 

Скачать с Weight-GG
Скачать с Hugging-Face (все доступные модели)
 

Спойлер

Скачать с Weight-GG
Скачать с Hugging-Face (все доступные модели)  

Спойлер

Скачать с Weight-GG
Скачать с Hugging-Face (все доступные модели)
 

Спойлер

Скачать с Weight-GG
Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Weight-GG
 

Спойлер

Скачать с Weight-GG
 

Спойлер

Скачать с Weight-GG
Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Weight-GG
 

Спойлер

Скачать с Weight-GG (модель boroda-desser-comp-de_noise)
Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация появится позднее

Скачать с Weigh-GG (модель kardan-comp_de-esser_no-noise)
Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Weigh-GG (модель tereshuk-comp_de-esser_no-noise)
Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Weigh-GG (модель plahov-comp_de-esser_no-noise)
Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее
 

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация появится позднее

Скачать на Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее:

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация появится позднее:

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Изменено Воскресенье в 13:27 пользователем Warlock700
Добавлена новая модель

[Злобная реклама]

[Contentic 11]

Warlock700 похоже что ты профессионал в этом деле, знаешь абсолютно все)

[Warlock700 121]

6 минут назад, Contentic сказал:

Warlock700 похоже что ты профессионал в этом деле, знаешь абсолютно все)

Совсем нет, но уже не первый месяц занимаюсь данным делом, поэтому определенный базис успел накопиться...)

[Contentic 11]

Warlock700 попробовал я преобразовать текст в речь, что-то как-то топорно выглядит...

[Warlock700 121]

5 минут назад, Contentic сказал:

Warlock700 попробовал я преобразовать текст в речь, что-то как-то топорно выглядит...

Вы воспользовались TTS какой программы? Вроде как RVC TTS выдает довольно неплохие результаты и, как я заметил, зачастую для женских голосов. Мужские далеко не всегда выходят хорошо.

[Contentic 11]

Warlock700 rvc-tts использовал, голос сахарова поставил... Вообще фигня, не особо понравилось(

 

[Warlock700 121]

21 минуту назад, Contentic сказал:

Warlock700 rvc-tts использовал, голос сахарова поставил... Вообще фигня, не особо понравилось(

 

Не у всех моделей хватает эмоциональности для TTS. Но Вы можете попробовать найти в глобальной сети TTS хорошим голосом, а затем в последствии преобразовать полученный результат в RVC. Мне кажется, что так лучше будет.

[RayTwitty 1 004]

Когда-то тоже игрался с этим. Делал для голоса Бармена, но у него очень мало фраз для обучения нейронки, поэтому качество не совсем то, которое хотелось. Хотя для "рации" вполне приемлемо.

[Warlock700 121]

9 часов назад, RayTwitty сказал:

Когда-то тоже игрался с этим. Делал для голоса Бармена, но у него очень мало фраз для обучения нейронки, поэтому качество не совсем то, которое хотелось. Хотя для "рации" вполне приемлемо.

Если Вы делали модель с помощью RVC, то с того момента много поменялось - добавили новые алгоритмы, вышла вторая версия претрейна, русские претрейны тоже вышли.
К тому же, я больше позиционирую проект не для преобразования результатов из text-to-speech, а для преобразования голоса, будь то один человек, либо же группа "озвучеров". Только в этом случае, как мне кажется, можно получить достойный результат, который не стыдно будет добавлять в моды.

Да, полностью согласен - голос узнается слабо на Вашем ролике, повлиял на это ограниченный дата-сет, либо преобразование голоса из text-to-speech результата - сказать трудно. У бармена прям совсем мало фраз, поэтому лучше всего добавить схожих по манере произношения фраз долговцев или других персонажей, которых Вилков озвучивал. Того же Сидоровича из ЧН, к примеру.

[RayTwitty 1 004]

12 часов назад, Warlock700 сказал:

Да, полностью согласен - голос узнается слабо на Вашем ролике

Было бы интересно увидеть в данном проекте голос Бармена для дальнейшего использования в игре (старых билдовских диалогах). Возможно удастся улучшить текущий результат. Есть расшифровка оригинальных фраз Бармена из файлов игры в формате таблицы Excel, если это нужно.

P.S. Как я понял, Воронина в ТЧ озвучивал тот же актер и вроде еще каких-то долговцев в ЧН.

Изменено 11 марта, 2024 пользователем RayTwitty

[Warlock700 121]

11 часов назад, RayTwitty сказал:

Было бы интересно увидеть в данном проекте голос Бармена для дальнейшего использования в игре (старых билдовских диалогах). Возможно удастся улучшить текущий результат. Есть расшифровка оригинальных фраз Бармена из файлов игры в формате таблицы Excel, если это нужно.

P.S. Как я понял, Воронина в ТЧ озвучивал тот же актер и вроде еще каких-то долговцев в ЧН.

У меня билдовских фраз Бармена в наличии нет, только черновые Прохорова, которые уже были использованы для тренировки его модели.
Не подскажите, где можно проверенные ссылки раздобыть на билды ТЧ? Еще лучше, конечно же, если сможете их скинуть - буду премного благодарен, не придется тогда еще сортировать фразы с билдов, тем более, что те будут повторяться. Хотя, наверное, со временем и это стоит сделать.

Да, Воронина вроде тоже Вилков озвучивал. С долговским голосом у меня записей достаточно, чтобы еще модель обучить.

Насчет расшифровок фраз - возможно пригодиться, конечно, но пока не хватает энтузиазма, чтобы наговорить разных фраз для мододелов - своего рода "благотворительную" озвучку сделать.

[RayTwitty 1 004]

8 часов назад, Warlock700 сказал:

У меня билдовских фраз Бармена в наличии нет

Так в релизе не билдовские, в том и смысл. Билдовские как раз есть для всех диалогов.

8 часов назад, Warlock700 сказал:

Не подскажите, где можно проверенные ссылки раздобыть на билды ТЧ?

https://www.gameru.net/forum/index.php?showforum=107

8 часов назад, Warlock700 сказал:

Насчет расшифровок фраз - возможно пригодиться, конечно, но пока не хватает энтузиазма, чтобы наговорить разных фраз для мододелов - своего рода "благотворительную" озвучку сделать.

А, у вас после обучения нейронки нельзя просто загнать фразу, чтобы она выдала результат?

[Warlock700 121]

22 минуты назад, RayTwitty сказал:

Так в релизе не билдовские, в том и смысл. Билдовские как раз есть для всех диалогов.

Не совсем понял про "как раз есть для всех диалогов". Имеете ввиду, что в билдах присутствует больше диалогов Вилкова?

22 минуты назад, RayTwitty сказал:

https://www.gameru.net/forum/index.php?showforum=107

Спасибо, пороюсь в материалах на данном сайте. У Вас есть совет по тому, какой лучше скачать для набора наибольшего числа вырезанных фраз? За исключением Прохорова, его у меня в достатке.) 40 минут, если вдруг не говорил.

22 минуты назад, RayTwitty сказал:

А, у вас после обучения нейронки нельзя просто загнать фразу, чтобы она выдала результат?

Можно, конечно. С помощью Applio, либо RVC TTS, но я всегда "живость" модели проверяю посредством преобразования голоса. Только в этом случае я сужу о качестве модели. Именно по этой причине я не выложил недавно практически полностью готового Лебедева - непонятно с чего начал акцент выдавать.

UPD: Я поступил проще - качаю все билды ТЧ, нашел ссылку на этом же форуме с торрент файлом.

Изменено 12 марта, 2024 пользователем Warlock700

[RayTwitty 1 004]

18 минут назад, Warlock700 сказал:

Не совсем понял про "как раз есть для всех диалогов". Имеете ввиду, что в билдах присутствует больше диалогов Вилкова?

В релизе Бармена озвучивал Вилков, в билдах Прохоров. Смысл в том, чтобы озвучить вырезанные фразы Бармена (которые есть у Прохорова) голосом Вилкова.

https://disk.yandex.ru/d/s8hxhe9jx6NiFw

Тут в папке Разное есть таблица с расшифровкой фраз Бармена (голосом Вилкова) и каким файлам в игре (финалке) они соответствуют.

18 минут назад, Warlock700 сказал:

У Вас есть совет по тому, какой лучше скачать для набора наибольшего числа вырезанных фраз?

Ну я бы предположил, что 1935, 2232, 2571, в них посмотреть. Может еще 2205.

Изменено 12 марта, 2024 пользователем RayTwitty

[Warlock700 121]

10 минут назад, RayTwitty сказал:

В релизе Бармена озвучивал Вилков, в билдах Прохоров. Смысл в том, чтобы озвучить вырезанные фразы Бармена (которые есть у Прохорова) голосом Вилкова.

Теперь дошло.) Часть из них даже есть в релизе, но судя по всему не все, иначе вряд ли бы Вы заговорили о билдах.
В архиве "dialogs" и он, и билдовский Сахаров, и Сидорович был.
 

Да, кстати. Почему-то до такой идеи я не додумался. Наверное потому что не вслушивался и главной идеей была сортировка, а не анализ сказанного.
Файлик гляну, когда появится настроение сделать "благотворительную" озвучку. Думаю, что он мне очень пригодиться в тот момент.) Спасибо.)

11 минут назад, RayTwitty сказал:

Ну я бы предположил, что 1935, 2232, 2571, в них посмотреть. Может еще 2205.

Добро. Когда закончу с Метро и займусь все распределю - примусь за эти билды. Спасибо еще раз.)

[Warlock700 121]

 Протестирована и загружена модель Лебедева. Обновлено описание.
Демонстрация возможностей:
 

Спойлер

https://www.weights.gg/ru/models/cltq5txfk0edpgbe1h57sghmp

 

Изменено 14 марта, 2024 пользователем Warlock700

[Kuroneko 0]

У меня один вопрос:

если взять английский голос, он после сможет на русском озвучивать?

[Warlock700 121]

16 минут назад, Kuroneko сказал:

У меня один вопрос:

если взять английский голос, он после сможет на русском озвучивать?

Если Вы имеете ввиду преобразование английской аудиодорожки с получением русского языка, то нет - это невозможно.

Если Вы имеете ввиду создание модели на основе англоговорящего голоса с последующим его применением при преобразовании русской речи, то да - это возможно, но зачастую будет присутствовать акцент. Этот эффект возможно немного минимизировать, если использовать индекс от Snowie по улучшению речи из EN в RU, а так же если обучить саму голосовую модель на ру-претрейне.

[Kuroneko 0]

11 минут назад, Warlock700 сказал:

Если Вы имеете ввиду преобразование английской аудиодорожки с получением русского языка, то нет - это невозможно.

Если Вы имеете ввиду создание модели на основе англоговорящего голоса с последующим его применением при преобразовании русской речи, то да - это возможно, но зачастую будет присутствовать акцент. Этот эффект возможно немного минимизировать, если использовать индекс от Snowie по улучшению речи из EN в RU, а так же если обучить саму голосовую модель на ру-претрейне.

Т.к. в Aliens vs Predator 2 нет русской озвучки, с помощью нейросети хотелось создать русскую (но с оригинальными английскими голосами говорящими на русском). Меньше будет шансов ждать письма счастья, что-то там вы нарушили при создании озвучки.

Более 10 женских голосов и более 20 мужских подбирать под персонажей из разных игр которые были локализованы, не очень занятие и будут русские актёры недовольны.

[Warlock700 121]

1 час назад, Kuroneko сказал:

Т.к. в Aliens vs Predator 2 нет русской озвучки, с помощью нейросети хотелось создать русскую (но с оригинальными английскими голосами говорящими на русском). Меньше будет шансов ждать письма счастья, что-то там вы нарушили при создании озвучки.

Более 10 женских голосов и более 20 мужских подбирать под персонажей из разных игр которые были локализованы, не очень занятие и будут русские актёры недовольны.

В отношении нейросетей пока еще законодательство мало способно регулировать данный процесс, но учитывая, что труда будет затрачено много, то Вам явно не хотелось бы столкнуться с иском в свою сторону в будущем.

Здесь вижу следующие варианты событий:
Пункт 1: (обязательный) Подготовка датасетов для создания голосовых моделей на основе фраз из игры с их сортировкой либо по актерам, либо по актерам, манере и тональности озвучки. Не исключено, что из 10 женских голосов в озвучивании принимали участие лишь три актрисы, а для мужских голосов - 5 актеров;
Пункт 2: (обязательный) Создание голосовых моделей на основе полученных дата-сетов;
Пункт 3: (вариантивный) Озвучка всех одним человеком, либо группой на русском языке с их последующим преобразованием голосовой моделью желаемого персонажа (актера);
Пункт 4: (вариантивный) Подготовка необходимых фраз с помощью любой утилиты Test-to-speech с последующим преобразованием полученных результатов голосовыми моделями желаемых персонажей. (актеров)

Изменено 23 марта, 2024 пользователем Warlock700

[Warlock700 121]

Протестирована и загружена модель голосов персонажей, озвученных Иваном Розиным (Гонта, Гаваец и др.) Обновлено описание.
Демонстрация возможностей:

Спойлер

https://www.weights.gg/ru/models/cluo30ucu0cwoamruugu9k5pa

 

Изменено 6 апреля, 2024 пользователем Warlock700

[Gnomee123 220]

Warlock700 здорово получается. Одно что бросается в глаза это что голос русскую "р" произносит как английскую "r"

[Warlock700 121]

В 06.04.2024 в 16:49, Gnomi123 сказал:

Warlock700 здорово получается. Одно что бросается в глаза это что голос русскую "р" произносит как английскую "r"

К сожалению, но на текущем этапе проекта RVC подобное часто встречается у всех моделей. Это связано с двумя моментами: англоязычным претрейн (заранее обученная база голосов) и модель hubert_base. Если первое можно исправить ру-претрейном, то вот второй момент пока никак не поправить. Может быть со временем энтузиасты смогут сделать hubert_base для RVC для русскоговорящих голосов, но пока что никаких новостей. Только-только стали появляться hubert_base на других языках...

Изменено 10 апреля, 2024 пользователем Warlock700

[Warlock700 121]

В описание добавлены ссылки на Applio и RVC-TTS.
Первый проект является fork`ом оригинальной RVC. Помимо доступного функционала RVC в Applio имеется встроенный Test-to-Speech, а так же доступен алгоритм FCPE, который выдает более лучшие показатели преобразования, в сравнении с RMVPE.
RVC-TTS в свою очередь является проектом для озвучивания текста в речь на движке Edge с последующим преобразованием полученного результата голосовыми моделями.

[Phantom_86 94]

Есть инструкция для валенка как установить Applio? Скачал, запустил run-install.bat (защитник офнул), батник при запуске выдает это:
 

Изменено 13 апреля, 2024 пользователем Phantom_86

[Warlock700 121]

В 13.04.2024 в 13:05, Phantom_86 сказал:

Есть инструкция для валенка как установить Applio? Скачал, запустил run-install.bat (защитник офнул), батник при запуске выдает это:
 

Судя по всему Вы скачали не скомпилированную версию, а ту, которую необходимо самостоятельно собирать.

По этой ссылке можно скачать скомпилированные версии Applio:
https://huggingface.co/IAHispano/Applio/tree/main/Compiled

Изменено 15 апреля, 2024 пользователем Warlock700