RVC Stalker Voices - нейросетевые голосовые модели персонажей Сталкера

[Warlock700 135]

Здравствуйте, Сталкеры.

Ни для кого не секрет, что нейросети сейчас развиваются семимильными шагами, в свою очередь хотел бы Вам представить возможности одной из них.

---

    RVC-Project - проект, чьей основной задачей является обучение голосовых моделей и преобразование с их помощью аудиофайлов. Достаточно нескольких минут в качестве образца речи, чтобы получить практически идентичный голос, сохранив основные его черты, и я не мог пропустить такую возможность в отношении сталкерских голосов. Мною было обучено несколько моделей, основанных на речи персонажей из вселенной Сталкер.
Для наглядной демонстрации предоставляю Вашему вниманию видеоролик, где собраны примеры по всем моделям, которые успел выпустить на текущий момент.

Примечание: все демонстрационные ролики на текущий момент расположены на Youtube. Для их корректного отображения используйте средства обхода ограничений. Ролики так же можно найти в ВК группе канала: https://vk.com/warlock700group

---

---

Созданные модели не являются финальными версия, по мере возможностей они будут улучшаться и переобучаться в случае создания новых алгоритмов или улучшения обучения, выхода новых версий RVC, а так же при использовании новых версий предобученных баз. На текущий момент предобученная база основана на англоязычном дата-сете, в связи с чем на иных языках появляются заметные уху артефакты. Существуют неофициальные предобученные русскоязычные базы, под которые со временем будут переобучены все модели. Ссылки на них будут добавлены в данной теме по мере их выхода.

---

Развитие проекта:

Спойлер

13.02.24 - обучена модель Чехова и других свободовцев, озвученных голосом Григория Германа, проходит тестирование;
13.02.24- обучена модель группировки Наемники, проходит тестирование;
13.02.24 - обучена модель Лесника, проходит тестирование;
13.02.24 - обучена модель речи Андрея Прохорова, основанная на черновых и релизных фразах, проходит тестирование;
13.02.24 - обучена модель Дегтярева, проходит тестирование;
13.02.24 - обучена модель коменданта Халецкого, проходит тестирование;
15.02.24 - протестирована и загружена модель Дегтярева;
15.02.24 - протестирована и загружена модель отца Валерьяна;
15.02.24 - протестирована и загружена модель Чехова и других бойцов Свободы в исполнении Григория Германа;
20.02.24 - протестирована и загружена модель Лесника;
21.02.24 - протестирована и загружена модель коменданта Халецкого;
22.02.24 - обучается, а в последствии будет протестирована модель новичков в озвучке Руслана Гофурова;
23.02.24 - обучена модель Лебедева, проходит тестирование;
04.03.24 - протестирована и загружена модель новичков в исполнении Руслана Гофурова;
04.03.24 - протестирована и загружена модель голосов персонажей, озвученных Андреем Прохоровым;
04.03.24 - протестирована и загружена модель Ковальского из ЗП и Мельника из первых двух частей Метро 2033;
14.03.24 - протестирована и загружена модель Лебедева;
06.04.24 - протестирована и загружена модель голосов персонажей, озвученных Иваном Розиным; (Гонта, Гаваец и др.)
29.04.24 - загружена оффтоп модель Мельника из Метро 2033 Исход.
17.05.24 - протестированы и загружены модели (разные претрейны) персонажей, озвученных голосом Алексея Череватенко (Борода, Ной и др.)
30.11.24 - протестированы и загружены оффтоп модели (разные претрейны) персонажей, озвученных голосом Владимира Плахова
30.11.24 - протестированы и загружены модели (разные претрейны) персонажей, озвученных голосом Владимира Терещука
30.11.24 - протестированы и загружены обновленные модели (разные претрейны и хуберты) Сидоровича
30.11.24 - протестированы и загружены модели (разные претрейны и хуберты) персонажей, озвученных голосом Игоря Мельника
С 01.01.25 по 12.10.2025 -  протестированы и загружены новые модели, обученные на новой точности fp32:
   - Сталкеры в противогазе;
   - Бандиты в противогазе;
   - Наемники в озвучке Германа;
   - Наемники в озвучке Германа в противогазе;
   - Наемники в озвучке Терещука;
   - Свобода в противогазе;
   - Долг в противогазе;
   - Чистое небо в озвучке Вилкова;
   - Военные в противогазе;
   - Бандиты в озвучке Терещука.
Добавлены обновленные модели, обученные с повышенной точностью fp32:
   - Череватенко - Монолит (по умолчанию в противогазе);
   - Вилков - Долг;
   - Герман - Бандиты;
   - Герман - Чехов;
   - Зорин - Флинт;
   - Терещук - Военные.
   - Стальчук - Сталкеры;
   - Розин - Сталкеры;
   - Малуха - Сталкеры+Новички;
   - Малуха - Экологи; (по умолчанию противогазе)
   - Богуш - Свобода.
31.10.2025 - загружены новые модели, обученные на новой точности fp32:
Яценко - Военные Припяти;
Вилков - Сидорович.
Добавлены обновленные модели, обученные с повышенной точностью::
Борисенок - Лесник;
Подубинский - Сидорович;
Герман - Валерьян;
Пашин - Ковальский;
Тимошенко - Халецкий;
Подубинский - Сидорович.
10.11.2025 - протестированы и загружены новые модели, обученные на новой точности fp32:
Мороз - Дегтягев;
Борисенок - Сахаров;
Пашин - Рассказчик Зова Припяти;
Пашин - Мельник из Метро 1-2;
Стальчук - Лебедев;
Прохоров - полный датасет. (Метро+Сталкер)

---

Ссылки на программное обеспечение, вводная информация  и руководства:

Спойлер

RVC-Project - обучение моделей, преобразование аудиофайлов - скачать

Voice-changer от W-Okada - преобразование голоса в реальном времени  - скачать
Applio - fork RVC, доступны все функции оригинального проекта, есть встроенный Text-to-Speech и преобразование голоса в реальном времени - скачать
RVC-TTS - версия программы, способная генерировать любой текст и озвучивать его встроенными в движок Edge моделями с последующим преобразованием полученного результата голосовой моделью RVC.
Скомпилированный пользователем с просторов сети RVC TTS:
https://drive.google.com/file/d/1Lf6LOyFUcMh6BYcNTv_xPw4M_aSBNgb8/view
Страница с кодом и инструкцией по самостоятельной компиляции:
https://github.com/litagin02/rvc-tts-webui

Спойлер

При обучении моделей используются разные методы обработки, предобученные базы (далее претрейны) и модели hubert. Число моделей проекта RVC Stalker Voices постоянно растет, а краткое описание названий данных моделей вызывает недопонимание. Чтобы внести ясность необходимо предоставить вводную информацию и рассказать про каждый тип модели. И, пожалуй, стоит начать с теории:
HuBERT — это модель для самообучающегося представления речи. Она основана на методах, похожих на используемые в модели BERT (Bidirectional Encoder Representations from Transformers), но адаптирована для обработки аудиосигналов. Основная идея HuBERT — обнаружить дискретные скрытые единицы, чтобы преобразовать речевые данные в более «языковую» структуру. HuBERT можно использовать для автоматического распознавания речи, а также для её генерации.

ContentVec — это сеть для обучения речевых представлений, которая стремится удалить информацию о говорящем, предотвращая потерю содержательной информации. Метод основан на платформе HuBERT и включает механизмы для регуляризации как учительских меток, так и полученных представлений. 

Pretrained model — это предварительно обученная модель в области глубокого обучения, которая обучается на больших датасетах для выполнения конкретной задачи. Такая модель служит основой для различных задач, используя усвоенные закономерности и особенности. После обучения pretrained модель проходит процесс тонкой настройки, где веса и параметры модели корректируются для адаптации к конкретной задаче.

Все доступные на текущий момент базы речевых представлений и предобученных моделей доступны по ссылке:
https://huggingface.co/Politrees/RVC_resources
Больше информации о претренированных моделях:
https://docs.google.com/document/d/1j9J8A8Oop9bMOHmCs3jDXzPujuD6TQ0Q396rJ0MyuIc

Какие имеются на текущий момент модели представления речи:
- hubert_base - основная модель, встроенная в клиенты RVC и некоторых форков по умолчанию. Создана Facebook.
- contentvec - основная модель для последних версий Applio (форк RVC) и установленная по умолчанию. Имеет более высокую точность, в сравнении с hubert_base. (подробнее тут - ссылка) Если не вдаваться в подробности, то можно посмотреть результаты сравнения на скриншоте ниже. Создана группой программистов, чьи имена можно узнать из статьи по ссылке выше.



- hubert-japanese - модель hubert, основанная на hubert_base и обученная на образцах японского языка общим объемом более 19000 часов. Обучена группой энтузиастов, проект имеет название rinna. И, как бы странно это не звучало, но фонетически японский язык очень приближен к русской речи, благодаря чему конечный материал имеет хорошую дикцию, а так же высокую точность преобразования.
- hubert-chinese - модель hubert, обученная на базе WenetSpeech, материал для которой был набран в основном с YouTube и подкастов, охватывая различные типы сцен записи, фоновый шум, стили речи и т. д. Использовались аудиокниги, повествования, документальные фильмы, телесериалы, интервью, новости, чтения, выступления, развлекательные шоу и другие. Создана TencentGame. Модель так же имеет хорошую дикцию при работе с русской речью, но меньшую точность. Хорошо подойдет для необработанных аудиофайлов с "грязью".
- hubert-korean - модель hubert, основанная на hubert_base, профинансированная министерством науки Кореи и обученная на образцах корейской речи в более 2000 часов. Создана группой lucid. Данная модель использовалась единожды при обучении модели Сидоровича и показала плохие результаты при преобразовании, внося дефекты в произношение. В дальнейших моделях использоваться не будет.
- hubert-portuguese - модель hubert, обученная на португальском языке. Информацию по модели найти не удалось, создана shiromiya. Обученных моделей нет, качество произношения неизвестно. Обучение моделей не планируется.
- hubert-russian - статус модели: создается сторонними авторами.

Какие имеются предварительно предобученные базы - данные с сайта Applio:
- Rigel - информация будет добавлена позднее
- Snowie 3.1 - обучена на данных русского и японского языков. Помогает улучшить произношение на других языках. Частота дискретизации: 32k, 40k, 48k.
- RIN_E3 - обучена с нуля на большом наборе данных на английском языке. Рекомендуется использовать с высококачественными наборами данных из-за чувствительности к шуму. Частота дискретизации: 40k.
- Ov2Super - база, хорошо подходящая для небольших, чётких наборов данных на английском языке. Обучается на ярких, эмоциональных голосах. Требуется меньше эпох обучения. Частота дискретизации: 32k, 40k.
- TITAN - надёжная универсальная модель, которая даёт чистые результаты и хорошо справляется с акцентами и шумами. Требует меньше эпох обучения. Частота дискретизации: 32k, 40k, 48k
- itaila  - информация будет добавлена позднее
- KLM 4.1- обучена на данных корейского, японского и английского языков. Идеально подходит для создания вокальных гидов на основе коротких высококачественных студийных записей. Чувствителен к шуму. Частота дискретизации: 32k, 48k
- SingerPretrain - идеально подходит для английских певцов. Подходит для широкого диапазона вокальных типов, от баса до сопрано. Частота дискретизации: 32k.
- Anime - информация будет добавлена позднее
- DMR v.1 - тонкая настройка для голосов e-girl, мягких мужских/женских и глубоких мужских/женских голосов. Лучше всего работает с чистыми наборами данных и алгоритмом извлечения высоты тона Mangio-Crepe/Crepe. Частота дискретизации: 32k.
- UKR - информация будет добавлена позднее
- UKA - информация будет добавлена позднее
- IMA_Robotic - информация будет добавлена позднее
- Nanashi v1.7 - обучена на бразильских композиция. Хорошо подходит для португальского и других языков. Справляется с шумом и требует меньше обучающих эпох. Частота дискретизации: 32k.

В случае с моделями RVC Stalker Voices, помимо использования разных претрейнов и моделей hubert используются так же разные методы их обработки. Для простоты понимания и наглядности в качестве примера будет взята модель Сидоровича:
sidorovich_v2 (другие названия: sidorovich_v2-original, sidorovich_v2-ogg) - модель, обученная на второй версии претрейнов (все модели обучены на версии v2) и в которую не было внесено никаких изменений. В обучении участвуют только оригинальные файлы. Модели обучаются на hubert_base и contentvec.
ВАЖНО - все модели изначально обучаются на пресете для частоты 40 Кгц, ввиду наибольшего распространения претрейнов и, со слов других энтузиастов, более лучших конечных результатов.
sidorovich_v2_no-noise - модель, обученная после удаления шума. Используется встроенный в Adobe Audition инструмент шумоподавления с акцентированием на высокие частоты, в редких случаях второй "проход" осуществляется для низких частот. Если материал очень "грязный" - используются дополнительно плагины VST. Модели обучаются на hubert_base и contentvec.
sidorovich_v2_comp_de-esser_no-noise - модель, обученная на основе образцов no_noise с применением встроенного в Adobe Audition инструмента де-эссеризации, а так же компрессии. Пресеты во всех моделях используются одинаковые и не настраиваются точечно. Если Вы умеете тонко работать со звуком, то можете использовать no_noise модель и обработать материал на выходе самостоятельно. Модели обучаются на hubert_base и contentvec;
sidorovich_v2_no_noise_auto_nectar - модель, обученная на основе образцов no_noise с применением автоматической обработки плагином iZotope Nectar 4. Применяются такие эффекты, как эквализация, компрессия, сатурация, де-эссеризация и другие, примененные в ходе анализа ИИ образцов голоса для модели. Модели обучаются на hubert_base и contentvec;
sidorovich_v2_comp_de-esser_no-noise-название_претрейна - модель, использующая в своей основе образцы для модели comp_de-esser_no-noise и обученная на указанном претрейне. Название претрейна, если он использовался, всегда находится в конце имени. Модели обучаются на hubert_base и contentvec;
sidorovich_v2_comp_chinese (другое название - comp_china) модель, использующая в своей основе образцы для модели comp_de-esser_no-noise и обученная на модели hubert_chinese;
sidorovich_v2-comp_japanese (другое название - comp_japan) - модель, использующая в своей основе образцы для модели comp_de-esser_no-noise и обученная на hubert_japanese;
sidorovich_v2-comp-korean - модель, использующая в своей основе образцы для модели comp_de-esser_no-noise и обученная на hubert_korean.  В дальнейших моделях применяться не будет.

В 2025-м году все модели стали переобучаться только на алгоритме contentvec в RVC - такие модели имеют приписку "new", однако установить в него можно только его legacy версию. Поэтому, начиная с сентября, модели стали обучаться на новой точности FP32 и исключительно в Applio.
FP32 (Single Precision) — формат точности чисел с плавающей точкой, который обеспечивает баланс между точностью и эффективностью. 
Модели, обученные на этой точности, на момент написания являются наиболее лучшими в передаче тона голоса, используемого в ходе обучения, а так же качественнее передают тональность голоса донора. По этой же причине тональность донора рекомендуется подбирать с помощью игры голоса, либо опцией "предлагаемая высота тона".
Помимо этого хорошо себя зарекомендовала предварительная нормализация через Applio при подготовке дата-сета к обучению.
Обученные с изменениями модели имеют схожее обозначение с приведенными ранее, но с небольшим расширением - приписка "fp32" означает, что модель обучена на новом виде точности, а normal, что выполнена предварительная нормализация датасета. Такие модели по умолчанию обучаются на contentvec, но в случае, если используется другая модель опознания речи, то это будет указано дополнительно. На примерах:
sidorovich-fp32-comp-de_esser_no-noise - модель, обученная на новой точности fp32, на модели опознания речи contentvec,  очищена от шумов и обработана компрессором с де-эссером.
sidorovich-fp32-comp-japanese-showie3.1 - модель, обученная на новой точности fp32 и использующая в своей основе образцы дата-сета comp_de-esser_no-noise на модели опознания речи hubert_japanese, 

Спойлер

В данном руководстве будут описана специфика работы в нейросети RVC: преобразование и обучение моделей.
В качестве примера будет использоваться форк данного проекта - Applio, поскольку основной проект на текущий момент давно не обновляется создателем, в то время как в Applio было внесено много полезных, а так же спорных решений, но обо всем по порядку. Сразу поясню, что в руководстве не будет объясняться каждая функция программы, но информации в нем будет достаточно для полноценной работы.
В первую очередь стоит начать с того, где скачать, а так же как запустить программу.
Скачать ее можно с официального репозитория автора - Hispano. Вы можете скачать как исходники проекта на Github и скомпилировать проект самостоятельно, так и скачать уже скомпилированную программу на Hugging Face.
Для простоты использования рекомендуется скачивать скомпилированную версию программы самой последней версии, поскольку с каждым новым обновлением разработчик вносит множество изменений, которые добавляют новые функции и отлаживает работу старых. Не исключено, что в определенные моменты именно то, что Вам нужно, будет находится в новой версии программы, поэтому периодически рекомендую программу обновлять. На момент написания руководства финальной версией является Applio 4.2.7.
Скачиваем и распаковываем архив. В папке ищем и запускаем run-applio.bat - откроется командная строка. Первый запуск программы всегда долгий, это актуально так же и для запуска программы после перезагрузки ПК.
При корректном ассоциировании открытия ссылок у Вас должна будет открыться страница localhost с портом 6969, если этого не произойдет, то скопируйте адрес из командной строки веб-интерфейса программы или перейдите по ссылке http://127.0.0.1:6969 в любом браузере.

При старте нас встретит окно Вывода.
Поле "голосовая модель" позволяет выбрать модель для преобразования аудиофайла, а поле для "индексный файл" - индекс. Для корректного обнаружения этих файлов рекомендую размещать их в папку logs программы. Модель и индекс можно скачать на просторах сети. В папке logs можно создавать подпапки и они не будут препятствовать определению файлов, поэтому если Вы сторонник удобства, то рекомендую файлы модели и индекса размещать сразу папкой в logs.
Чуть ниже имеются кнопки выгрузки голоса и обновления. Первая кнопка убирает модель в качестве используемой, вторая - позволяет заново выполнить сканирование папок. Очень полезно в тех случаях, когда в папку добавляется новая модель после запуска программы, в ином случае ее потребовалось бы перезагружать.
Следующее поле позволяет выбрать тип преобразования - одиночный, либо пакетный.
В случае с одиночным преобразованием все очень просто - укажите путь, либо перекиньте файл с аудио, который хотите преобразовать. Для пакетного преобразования необходимо указать путь сначала для файлов, которые необходимо преобразовать, а затем указать путь (или оставить по умолчанию) для конечный файлов, которые будут получены после преобразования.
Далее можно обнаружить поле "Выберите аудио". Каждый добавленный нами файл дублируется в папку Applio\assets\audios и Вы можете переключаться между ними, если Вы выполнили несколько преобразований. При желании даже можно преобразовать снова тот файл, который будет получен в итоге, поскольку по умолчанию они так же находятся в данной папке и имеют тоже название, что и преобразованный файл с именем в конце _output и выбранное расширении.  
Теперь нас ждет самое важное и объемное поле - "расширенные настройки". Хотел бы так же обратить Ваше внимание на то, что применение любых параметров из списка, кроме алгоритма и embedder mobel, при повторном преобразовании файла происходит очень быстро, поэтому при желании Вы можете ознакомиться с влиянием каждого эффекта посредством повторных преобразований. Рекомендую переименовывать выходной файл в тех случаях, когда имеется желание сравнить результаты.
Теперь начнем по порядку по каждому пункту:
- Очистить выходные данные: нажатие по ней удаляет все файлы, которые были получены при преобразовании. Файл, который будет преобразовываться, остается в папке. Отмечу, что повторное преобразование будет длительным.
- Export format: Дословно "формат экспортирования". Рекомендуется использовать тот же формат, что у оригинального файла. Форматы wav и flac являются наиболее предпочтительными, поскольку эти типы используют сжатие без потерь, однако при этом полученные файлы будут большого объема. Насколько качественными будет сжатие в другие форматы я, увы, не смогу сказать - как я понимаю для всех процедур используется ffmpeg, а это весьма качественный набор библиотек, поэтому выбор формата исключительно на Ваше усмотрение.
- Разделить аудио: Нарезка выходного аудиофайла на фрагменты при преобразовании. Использование на Ваше усмотрение, поскольку не всегда отрабатывает корректно и может сократить конечный файл до 30 секунд. Может быть полезно для слабых устройств или файлов большого объема, которые не могут быть обработаны за раз.
- Автотюн: добавление эффекта автотюна, используется для вокала. Использование на Ваше усмотрение и зависит от творческого видения. Сразу выскажу свое мнение по дополнительным эффектам, чтобы в последствии не повторяться - по гораздо проще и удобнее обработать выходной аудиофайл в аудиоредакторе, чем использовать эффекты при преобразовании, поскольку в этом случае у Вас не будет возможности откатиться на предыдущий результат, изменить какие-то определенные участки и т.д. Если же у Вас не хватает навыков и Вы не хотите осваивать аудиоредакторы для добавления необходимых эффектов, то можете попробовать сделать это через сам Applio. Я же в свою очередь продолжу.
- Очистить аудио: встроенный шумодав, он же de_noiser - очистка аудио от шумов. Количество шумов зависит напрямую от использованных при обучении моделей аудиофайлов. Чем чище модель, тем меньше шумов, особенно если аудиоматериалы прошли пост-обработку, поэтому как и с автотюном - использование на Ваше усмотрение.
- Upscale audio: улучшение качества звучания конечного файла. В логах не сообщается, каким именно образом происходит улучшение, поэтому используйте по Вашему усмотрению. Примечание от автора: рекомендуется использование для низкокачественного аудиосигнала, увеличивается время обработки
- Formant shifting: увы, не смогу дать пояснения и рекомендации по данному пункту. Примечание от автора: Включиние сдвиг формант. Используется для преобразования мужского голоса в женский и наоборот.
- Post-process: пост-обработка выходного файла. Наложение эффектов и их последующая настройка, множество опций необходимы для вокала или иного творческого замысла.
Сейчас же мы наконец-то дошли до этапа, который напрямую влияет на выходной материал при преобразовании моделью. Итак:
- Высота тона: указания тона для преобразуемого файла. Низкий тон делает голос более грубым, а высокий с точностью наоборот. Если Ваш голос отличается в ту, либо иную сторону от голоса модели, то с помощью изменения значения в данном пункте можно улучшить конечное преобразование и приблизиться к голосу того человека, на основе которого была создана модель. Для преобразования из женского голоса в мужской рекомендуются значения:  -12, из мужского в женский: +12, но присутствует зависимость от особенностей голоса, поэтому лучше подбирать значения самостоятельно.
- Радиус фильтра - включение фильтрации для уменьшения излишнего дыхания. Рекомедуется оставлять значение на 3.
- Соотношения объектов поиска - один из главных параметров при преобразовании, который при неправильных значениях может исказить конечный результат. Поскольку большинство моделей на момент выпуска гайда обучено на англоязычном претрейне, то высокие значения индекса могут привести к деффектам произношения, но в тоже время, чем выше значение индекса, тем наиболее близко преобразованный голос будет похож на голос модели. Во многом качество и отсутствие акцента преобразования с высоким индексом зависит от схожести изначального голоса и голоса модели и чем они ближе, тем ниже шанс возникновения артефактов и акцента при наибольшей похожести. Мои рекомендации будут следующими - установите значение индекса на 0 и выполните преобразование, скорректируйте другие значения для получения наилучшего результата, а уже после увеличивайте индекс до появления заметных дефектов преобразованного голоса.
- Огибающая громкости: смещение громкости конечного файла. При значении на 1 используется тот же уровень громкости, что и у оригинального аудиофайла. Полезно в тех случаях, если изначальный материал слишком тихий или громкий, может помочь в тех случаях, когда оригинальный материал записан с перегрузом.
- Защита глухих согласных: по умолчанию значение установлено на 0.5, при котором функция отключена. Уменьшение значение приводит к предотвращению артефактах на согласных. При нулевом индексе влияние защиты минимально, а то и вовсе отсутствует. Чем ниже значение защиты, тем больше оказывается эффект, но снижаются параметры индекса черт голоса модели. Говоря иначе - меньше шанс возникновения артефакта, но при этом меньшая приближенность к голосу модели. Количество артефактов у голоса, отличного от английского (для моделей, созданных на английском hubert) может не уменьшиться со снижением значения.
- Алгоритм извлечения высоты тона: выбор алгоритма преобразования файла. Наиболее частыми в использовании являются rmvpe, fcpe и их сочетание. Так же rmvpe является наиболее распространенным алгоритмом для RVC v2, поскольку большинство моделей были изначально обучены на нем, FCPE недоступен для обучения. Rmvpe имеет хорошее сочетание производительности, качества и точности, FCPE так же имеет высокое качество, но самое главное - высокую скорость работы, в связи с чем он хорошо показал себя при преобразовании в реальном времени. Преобразование в реальном времени можно осуществить с помощью Voice-Changer от w-okada, о котором будет рассказано позднее. Ввиду малого числа материала в ру-сегменте по самому проекту, а тем более по используемым в RVC алгоритмам, я не смогу предоставить подробные данные по сравнению этих двух алгоритмов. Считается, что FCPE лучше подходит для преобразования речи, особенно в реальном времени, в то время как RMVPE лучше подходит для вокала. Связано это с лучшей точностью и совпадением последнего, благодаря чему полученный с RMVPE голос будет гораздо более приближен к голосу модели, в то время как FCPE будет быстрее справляться с поставленной задачей и иметь меньше артефактов.
Мое мнение такого, что стоит преобразовывать материал сразу на двух алгоритмах, то есть один экземляр на Rmvpe, а второй на FCPE и уже в дальнейшем выбирать наиболее удачные "дубли".
- embedder Model: важнейший из всех параметров, используемых для преобразования речи. Для версии Applio 4.2.7 стандартная модель hubert, обученная на англоязычной базе голосов, была заменена на contentvec. Contentvec является приемником hubert, имеет большую точность и меньшее число ошибок в определении произношения в сравнении с другими алгоритмами. Но, как в случае с hubert - обучение базы производилось на англоязычной речи, в связи с чем произношение на иных языках может иметь дефекты и артефакты. Помимо contentvec в Applio доступны так же и другие базы, созданные на китайском, японском и корейском, которые в некоторых аспектах ближе по произношению к русскому, чем английский. Однако, в отличии от contentvec, свободно работающим с моделями, обученными hubert-base (англоязычной базы) преобразование файла с другими базами, увы, несовместимо, ввиду невозможности сопоставления произношения. В этом случае для использования hubert на иных языках необходимо использовать именно ту модель, которая обучалась на этом же hubert.
С качеством произношения на разных hubert Вы можете самостоятельно ознакомиться в приложенной ниже демонстрации моделей, основанных на одном и том же наборе аудиофайлов: (далее "датасете")
(ссылка)
Итак, мы добрались до финала и готовы преобразовать голос на выбранных нами параметрах. После завершения процесса доступны различные функции при воспроизведении, а так же сохранения полученного материала. По функционалу воспроизведения, думаю, не требуются особые пояснение, а вот по сохранению есть моменты, которые стоит уточнить. По стрелке, расположенной в правом верхнем углу поля "экспортировать аудио" можно сохранить преобразованный нами аудиофайл. Этот же файл доступен в папке ...\assets\audios\, он имеет тоже название, что и наш изначальный файл с дополнительным комментарием _output. Данный файл будет доступен в папке до момента очистки преобразованных аудиодорожек, либо пока мы не выполним повторное преобразование, поэтому если Вас устраивает полученный результат, но по какой-то причине Вам не удалось сохранить его через браузер, то рекомендую перенести его в любую другую папку, чтобы ненароком его не перезаписать.
С преобразованием голоса голосовой моделью все, максимально подробно, в меру моих познаний и опыта работы с RVC, далее я расскажу о другой функционале Applio и начну я с TTS, он же Text-to-speech, он же Текст-в-речь. Обучение модели пока пропустим, поскольку там есть много того, на чем стоит сделать акцентировать.

Переходим на вкладку TTS
Левое и правые поля схожи с выбором модели для преобразования - выбирайте желаемую и укажите индекс, если тот не подцепится автоматически.
Голоса TTS - это голосовые TTS модели на движке Edge. Для разных языков имеется несколько вариантов, отличающихся произношением, полом и самим голосом. Для примера: для английского имеется вариант американского, австралийского и другие вариации произношений.
для русского языка их лишь два: мужской - RU-DmitryNeural, а так же RU-SvetlanaNeural. Советую просто набрать в строке поиска RU, чтобы сразу вывести в списке нужную модель.
Следующее поле позволяет выбрать вариант ввода текста и для Applio доступны как ввод текста в интерфейсе программы, так и загрузка файла в формате .txt.
Все остальные поля в разделе "Расширенные настройки" совпадают по функционалу с ранее описанным при преобразовании аудио.

Теперь об обучении.
(будет добавлено позднее)

Демонстрация моделей и ссылки на скачивание:

Спойлер

 

Скачать с Hugging-Face (все доступные модели) 

Спойлер

Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Hugging-Face (все доступные модели) 

Спойлер

Скачать с Hugging-Face (все доступные модели) 

Спойлер

Скачать с Hugging-Face (все доступные модели) 

Спойлер

Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Hugging-Face (все доступные модели) 

Спойлер

Скачать с Hugging-Face (все доступные модели) 

Спойлер

 

Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Hugging-Face (все доступные модели)  

Спойлер

Скачать с Hugging-Face (все доступные модели) 

Спойлер

Скачать с Hugging-Face (все доступные модели) 

Спойлер

Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Hugging-Face (все доступные модели)

Спойлер

Скачать с Weight-GG
 

Спойлер

Скачать с Hugging-Face (все доступные модели) 

Спойлер

Демонстрация появится позднее

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее
 

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация появится позднее

Скачать на Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее:

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация появится позднее:

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Спойлер

Демонстрация модели появится позднее

Скачать с Hugging-Face (все доступные модели)

Изменено 31 января пользователем Warlock700
Добавлена новая модель

[Злобная реклама]

[Warlock700 135]

В 19.05.2024 в 13:35, Phantom_86 сказал:

Warlock700 Молодой - это точно один из разрабов 4а, который вместе с Профом из GSC перешел (уж не помню фамилию). В билдах Метро все реплики были озвучены им на пару с Профом, ну и как видно некоторые дошли до релиза (к слову его можно слышать также в некоторых билдах сталкера - Например). По старому - разрываюсь между Яценко и Сергеем Тихомировым (Тремор), еще повслушиваюсь.

"Кордан, Вано - 4 минуты 30 секунд" - это реплики только персонажей из ЗП, или уже включены фразы персонажей из Метро 2033, которые я выше скинул?

Ну и кстати, если вы заинтересованы в большом количестве материалов, то могу скинуть папку с озвучкой билда Metro Last light, где половина всей игры озвучена Прохоровым, чего нет в релизе.

Ооо, спасибо, это уже гораздо больше, чем ничего, как это было у меня до этого.) Значит надо будет искать, чей именно это голос, а уже после обучить и выложить модель. И если материала присутствует с Прохоровым во всех частях Сталкера в огромном количестве , то до релиза у этого разработчика совсем чуть-чуть дошло. А может быть и не дошло и это остатки от билдов, которые не вырезали полностью из игры.

 

По Кордану и Вано - это реплики из Сталкера ЗП и Метро 1-2, где голос чистый, без эффектов надетого шлема и рации. У Вано хоть и прилично фраз в игре, но они либо с эффектом надетого шлема, (Путепровод "Припять") либо с эффектом рации. Такие голоса я не использую, исключением был лишь Монолит, где персонажи всегда говорят с таким эффектом.

Хм... Предложение весьма заманчивое, но мне очень не хочется заниматься сортировкой снова.) Тем более, многие фразы будут повторятся с теми, что попали в релиз, из-за чего в итоге потребуется еще раз материал сортировать от того, что есть в папке у меня и того, что будет в этом билде. А я где-то два чистых дня убил только на сортировку голосов с Метро... В принципе, можете скинуть - пусть лучше будет,  вдруг появится необходимость дополнить материал на модели, ведь мне не обязательно заниматься сортировкой сию же минуту.)

---

Дополнено 9 минуты спустя

В 19.05.2024 в 13:35, Phantom_86 сказал:

 

Warlock700 Поправочка, как выяснилось - в озвучке Метро не участвовали ни Яцекно, ни Тихомиров, так что "старый" - это актёр, не причастный к сталкеру.

  Скрины титров 2033\ласт лайт (Показать контент)

 

Сортировку я делал фраз из релизных версий Metro 2033 Redux и Metro 2033 Redux Last Light, в титрах я тоже не обнаружил Яценко и Тихомирова. Но на Яценко голос очень похож.
 

Спойлер

Методом исключения можно предположить, что голос "Старого" персонажа из Метро - это Анатолий Зиновенко, поскольку среди актеров озвучивания Сталкера его не было. Ролик, откуда титры Last Light Redux взял: https://www.youtube.com/watch?v=s9G2kydljQ8

Может быть это и есть Яценко, но его не указали в титрах, поскольку голос ну очень похож на него.
Фразы из ЗП Яценко: Скачать - Google.Drive

На "Молодой" голос еще думал, что это Гофуров (Новички ТЧ), но его в игре мало оказалось - нашел лишь несколько фраз бандитов в его исполнении.
Левитский озвучивал Корбута и Москвина, поэтому это тоже не голос "Старого" персонажа.
Поэтому все это тайна, покрытая мраком...)
P.S.: Мне в игре не удалось нигде найти Алексея Зорина (Флинт из ЗП). Либо у него было очень немного фраз, либо же я перепутал его с кем-то, разместив его фразы в папку с другим актером.

Изменено 24 мая, 2024 пользователем Warlock700

[macron 1 187]

Как всё наворочено. Получилось запустить сборку rvc-tts.rar на win7.  Скачал отсюда архив с x64 api-ms-win-core-path-l1-1-0.dll, добавил ее в папку к rvc-tts\Python310\python.exe.  Потом вылетало по cudart64_110.dll. Если вылетает, надо этот файл физически удалить (переименование не поможет).

Изменено 28 мая, 2024 пользователем macron

[Warlock700 135]

6 часов назад, macron сказал:

Как всё наворочено. Получилось запустить сборку rvc-tts.rar на win7.  Скачал отсюда архив с x64 api-ms-win-core-path-l1-1-0.dll, добавил ее в папку к rvc-tts\Python310\python.exe.  Потом вылетало по cudart64_110.dll. Если вылетает, надо этот файл физически удалить (переименование не поможет).

За информацию спасибо, наверняка у кого-то возникнет необходимость в ней при установке на Win 7.

Благо, на Win 10 не требуется столько ухищрений для запуска, особенно если обновлены все библиотеки.

[BillyJin938 0]

Приложение запускается, но не работает. А с сайтом фигня

[Warlock700 135]

12 часов назад, BillyJin938 сказал:

Приложение запускается, но не работает. А с сайтом фигня

Какое именно приложение у Вас не работает? Если RVC, то какую версию использовали? RVC_AMD-INTEL, либо RVC-Nvidia? Версия Nvidia может не запуститься с старыми видеокартами этой компании, как и с видеокартами других производителей. Какая видеокарта установлена у Вас?
Что именно Вы подразумеваете под "А с сайтом фигня"? Какой именно сайт? Локальный адрес для работы с программой, либо сайт для скачивания моделей?

Изменено 3 июня, 2024 пользователем Warlock700

[Warlock700 135]

Протестированы и загружены новые модели:
Владимир Плахов - голос Артема и других NPC из Метро 2033;
Владимир Терещук - голос военных, бандитов NPC-2, а так же других NPC из серии Сталкер и Метро 2033;
Игорь Мельников - голос Кардана и Вано из Сталкер Зов Припяти, а так же Евгения из Метро 2033
Примечание: образцов чистого голоса без эффектов в Сталкере для Мельникова мало, поэтому большая часть образцов взята из Метро 2033. Модель обучена под разные претрейны и хуберты (процесс обучения продолжается)
Обновленная модель Сидоровича под разные претрейны, типы обработки и хуберты.

Важное нововведение:
С текущего момента модели обучаются не только под разные претрейны, (они же образцы голоса) но и под другие модели хуберт - важнейшая модель, ответственное за ассоциирование и детектирование речи образцов голоса.
Обучение происходит в Applio для соблюдения максимальной совместимости, а так же для простоты переключения при использовании.
Информация о хубертах и претрейнах появится в ближайшее время.

---

Дополнено 23 минуты спустя

Добавлены пояснения по моделям, разным hubert и pretrained models.
Подробное описание pretrained models будет составлено позднее.

---

Дополнено 56 минуты спустя

Добавлена черновая инструкция по работе с RVC на примере его fork`а - Applio.
В руководстве на текущий момент полностью описаны процессы преобразования голоса, а так же использование TTS.

Изменено 17 июля, 2025 пользователем Warlock700

[Warlock700 135]

Добавлены новые модели на Higging Face - https://huggingface.co/Warlock700
Позднее будут добавлены в шапку темы.

Загружены:
Чехов - одна модель;
Вилков-чистонебовцы - одна модель;
Монолит - несколько новых моделей;
Экологи-новички: голос в противогазе - несколько моделей;
Флинт-уникальные военные - несколько моделей;


После проверки будут загружены несколько моделей для:
Стальчук - сталкеры и чистонебовцы в противогазе;
Стальчук - новые модели сталкеров и чистонебовцев;
Розин - рядовые и уникальные сталкеры;
Богуш - свобода в противогазе;
Малуха - новички и экологи;
Терещук - новые модели военных.

Изменено 29 августа, 2025 пользователем Warlock700

[Warlock700 135]

Добавлены новые модели на Higging Face - https://huggingface.co/Warlock700
Терещук-военные - 5 новых моделей;
Терещук-военные в противогазе - одна новая модель;
Терещук-бандиты - одна новая модель;
Герман-бандиты - одна новая модель;
Малуха-новички и экологи - 6 новых моделей:
Богуш-Свобода - 6 новых моделей;
Вилков-Долг в противогазе - одна новая модель.
 

[Warlock700 135]

Добавлены новые модели на Higging Face - https://huggingface.co/Warlock700
Стальчук-сталкеры - 3 модели;
Стальчук-сталкеры в противогазе - 3 модели;
Розин-сталкеры - 6 моделей.

Изменено 12 сентября, 2025 пользователем Warlock700

[Warlock700 135]

Добавлены новые модели для каждой группировки в высокой точности FP32. Совместимость гарантирована с версией Applio 3.2.9 и выше. Для некоторых моделей загружено несколько вариаций;
Розин - Сталкеры;
Стальчук - Сталкеры с Чистонебовцами, а так же Сталкеры с Чистонебовцами в противогазе,;
Герман - Бандиты, Бандиты в противогазе, Наемники, Наемники в противогазе, Чехов;
Терещук - Бандиты, Военные, Военные в противогазе, Наемники NPC-2 из ТЧ;
Малуха - Новички и Экологи; (по умолчанию в противогазах)
Череватенко -  Монолит; (по умолчанию в противогазе)
Богуш - Свобода и Свобода в противогазе;
Вилков - Долг и Долг в противогазе,  Чистонебовцы;
Гофуров - Новички;
Зорин - Флинт.
Все новые модели доступны на Higging Face - https://huggingface.co/Warlock700

Внесены изменения в описание темы:
- Добавлены ссылки на новые модели;
- Добавлены ссылки для моделей, которые получили новые версии с момента релиза;
- Внесены дополнения к обозначениям в названиях новых моделей.

Изменено 14 октября, 2025 пользователем Warlock700

[VedmedЪ 5]

Чувак спасибо тебе огромное за модели! Сто лет не был на сайте и даже пароль нашел, чтобы спасибо сказать

[Warlock700 135]

21 минуту назад, VedmedЪ сказал:

Чувак спасибо тебе огромное за модели! Сто лет не был на сайте и даже пароль нашел, чтобы спасибо сказать

Очень рад, что модели модели пригодились, а еще больше, что пойдут в ход.)

[Warlock700 135]

Загружены новые модели, обученные с повышенной точностью fp32:
Яценко - Военные Припяти;
Вилков - Сидорович.

Добавлены модели, обученные с повышенной точностью fp32 для ранее загруженных:
Борисенок - Лесник;
Борисенок - Сахаров;
Подубинский - Сидорович;
Пашин - Ковальский (теперь модель отдельно от Мельника);
Тимошенко - Халецкий;
Герман - Валерьян;
Пашин - Мельник;
Пашин - Рассказчик Зова Припяти;
Стальчук - Лебедев;
Мороз - Дегтярев;
Прохоров - полный дата-сет. (Метро+Сталкер)

Все модели доступны на Higging Face - https://huggingface.co/Warlock700

Внесены изменения в описание темы:
- Добавлены ссылки на новые модели в описании темы;
- Добавлены в описание ссылки для моделей, которые получили новые версии с момента релиза;
 

Изменено 10 ноября, 2025 пользователем Warlock700
Расширен список добавленных моделей

[Warlock700 135]

На текущий момент обучалась последняя модель (Мельника из Исхода не считаем - дата-сет не полный) на точности fp32 - Прохоров-full.

Дальнейшее обучение моделей будет иметь экспериментальный характер и в случае, если "опыты" пройдут успешно - модели получат дополнительные новые версии.

Старые модели, обученные на hubert_base будут в ближайшее время удалены, ввиду низкой релевантности после ввода в обучение contentvec и fp32.

Изменено 18 ноября, 2025 пользователем Warlock700

[AgentYaroslav007 49]

Warlock700 печальная новость - сайт weights прекращает работу 31 марта 2026 года.

Советую всё сохранить, хотя главное huggingface всё есть.

Изменено 22 января пользователем AgentYaroslav007

[Warlock700 135]

55 минут назад, AgentYaroslav007 сказал:

Warlock700 печальная новость - сайт weights прекращает работу 31 марта 2026 года.

Благодарю за информацию, уже давно перестал грузить модели на weight.gg, но там потенциально могут находиться модели, экземпляры которых не сохранил локально.

Основную ссылку они уже поменяли - теперь это другой сайт, а модели будут до конца марта по прямым ссылкам загружаться. До этого периода постараюсь сделать информативный ролик и поменять везде ссылки.

Изменено 22 января пользователем Warlock700

[[Humboldt] 169]

@Warlock700
https://dtf.ru/id543165/2666606-vyshel-treiler-dokumentalnogo-filma-o-sozdanii-kultovoi-igry-stalker-ten-chernobylya-na-ukrainskom-yazyke
Как думаешь, возможно ли добиться такого качества перевода? В оригинале они интервью дают на русском, но перевод на украинский сделан так, что не отличить. Интересно какую нейромодель они использовали.

[Warlock700 135]

25 минут назад, [Humboldt] сказал:

@Warlock700
https://dtf.ru/id543165/2666606-vyshel-treiler-dokumentalnogo-filma-o-sozdanii-kultovoi-igry-stalker-ten-chernobylya-na-ukrainskom-yazyke
Как думаешь, возможно ли добиться такого качества перевода? В оригинале они интервью дают на русском, но перевод на украинский сделан так, что не отличить. Интересно какую нейромодель они использовали.

Что русский, что украинский языки - довольно схожи между собой, поэтому перевод из одного в другой не будет сильно бросаться в уши.
Какая модель - ответить затруднюсь, потому что не интересовался этим направлением. Думаю, что 11labs или схожие по мощности и качеству ресурсы, вряд ли это что-то локальное, хотя кто знает. 
А может быть они вовсе сделали не перевод, а переозвучили - кто знает?) Оригинал я не смотрел.

Изменено 23 января пользователем Warlock700

[[Humboldt] 169]

21 час назад, Warlock700 сказал:

Оригинал я не смотрел.

Но качество интонации и повышение тона в звуках очень качественное, хотелось что-то подобное для НПС, пока то что мы имеем, это пародию на озвучку. Надеюсь когда-нибудь кто-то сделает что-то подобное.

[Warlock700 135]

В 24.01.2026 в 11:28, [Humboldt] сказал:

Но качество интонации и повышение тона в звуках очень качественное, хотелось что-то подобное для НПС, пока то что мы имеем, это пародию на озвучку. Надеюсь когда-нибудь кто-то сделает что-то подобное.

Честно, мне хорошо известен только RVC, поскольку среди локальных нейронок он один из немногих, кто выдает качественный результат среди audio-to-audio. Тут же не только audio-to-audio, но еще и дубляж на другой язык, а подобное среди локальных нейросетей я не наблюдал.

Изменено 30 января пользователем Warlock700

[Warlock700 135]

Удалены старые модели, обученные на hubert-base, hubert-japanese и hubert-chinese.
Сохранены только модели, обученные под contentvec и точность fp32. Исключение: полные модели Плахова, Терещука, Череватенко и Мельникова. Как только будут обучены их contencvec fp32 версии - текущие будут удалены.

Убраны все ссылки в теме, ведущие на Weight-GG, ввиду смены направленности сайта и/или его продажи.
На текущий момент лишь одна модель не была загружена на Hugging-Face - модель Мельника из Метро Исход. Поскольку сортировка аудиоматериала конкретно этой части не была произведена - дата-сет будет обучен на тех данных, которые удалось собрать при первоначальном обучении.

Изменены ссылки на Youtube канале. Ролик-новость о закрытии Weight-GG запланирован позднее.

Изменено 1 февраля пользователем Warlock700