Stable Diffusion использовали для генерации музыки🤔
🔻Энтузиасты из проекта Riffusion нашли крайне оригинальное применение ИИ для генерации изображений в создании музыки
Они взяли открытую модель Stable Diffusion и натренировали ее на картинках спектрограмм, отражающих изменение частоты и амплитуды звуковой волны со временем, в совокупности с текстовым описанием.
В итоге получившийся ИИ способен генерировать новые спектрограммы, по вашим текстовым запросам, а если их воспроизвести играет музыка.😎
▫️Метод также может использоваться для изменения имеющихся звуковых композиций и синтеза музыки по образцу, по аналогии с модификацией изображений в Stable Diffusion.
▫️Можно и комбинировать разные стили, выполнять плавный переход от одного стиля к другому или вносить изменения в существующий звук для решения таких задач, как увеличение громкости отдельных инструментов, изменение ритма и замена инструментов.
Компоненты для синтеза музыки доступны под лицензией MIT. 😊
Натренированные модели открыты под пермиссивной лицензией Creative ML OpenRAIL-M, допускающей использование в коммерческих целях.
Примеры сгенерированной музыки можно послушать на сайте проекта