ホームへ戻る

生成式音訊

YuE2-3B、編集可能な楽譜で楽曲全体を設計――8候補からのベスト選択でようやくSuno v5を上回る

YuE2は、メロディーとコードの記号的プランニング、セマンティックトークン、flow matchingによる音声合成を単一の生成パイプラインに統合した。重みは24GB GPUで実行できるが、非商用ライセンスであることや、8候補から最良の結果を選ぶ評価方式を採用しているため、商用システムとの比較は慎重に解釈する必要がある。

J. Nathan Matias · CC BY-SA 2.0 · Image source
zh-Hant

M·A·Pチームは、[YuE2-3Bの重みと推論パッケージ](https://huggingface.co/m-a-p/YuE2-3B)を公開した。楽曲全体の生成を、検査・編集可能な中間表現に分解している。ユーザーが音楽スタイルと歌詞を入力すると、モデルはまずメロディーとコードを含むABC記譜法の楽譜を生成し、続いて25 Hzのセマンティック音楽トークンと音響latentを生成、最後にVAEで48 kHzステレオ音声へデコードする。テキストプロンプトを繰り返し修正するしかないブラックボックス型の音楽生成器とは異なり、エンジニアや別のエージェントが音高、リズム、ハーモニー、楽曲構成を直接調整してから、音声を再合成できる。

[プロジェクトの技術ページ](https://map-yue2.github.io/)によると、モデルは約35億9,000万パラメータ、28層で構成され、AR–NAR Mixture-of-Transformersを採用している。自己回帰エキスパートと非自己回帰エキスパートはattention演算を共有する一方、それぞれ独自のnormalization、projection、MLPを維持する。後段ではflow matchingを用いて音響latentを生成する。インターフェースには、メロディーとコードを完全にプランニングするモード、メロディーのみをプランニングするモード、記号プランを使用しないモードの3種類が用意されている。また、`plan`、セマンティック生成、音響合成、デコードが個別に公開されているため、編集用またはバッチ処理用のワークフローを構築しやすい。公式によれば、BF16推論は24GBのVRAMを備えたNVIDIA GPUで実行できる。

192件のプロンプトを収録したWildSongBenchでは、標準のYuE2のSongBench平均スコアは6.7316で、Suno v5の6.8721を下回った。音楽性、プロンプト制御、歌詞の正確性に基づいて8候補から最良の結果を選択した場合に限り、6.9632まで上昇した。この違いは重要だ。best-of-8では候補生成コストが約8倍になり、選択器による優位性も加わるため、単一生成の能力として扱うことはできない。評価は主にチームが公開した自動指標に基づいており、独立したリスニングテストや同一コスト条件での比較はまだ不足している。

モデルカードのライセンスはCC BY-NC 4.0であり、そのまま商用製品に利用することはできない。推論には、モデルリポジトリで提供されているカスタムwheelのインストールも必要となる。チームによれば、学習データは約34万6,000時間分で、主にCC0の音楽とライセンスを取得した合成データで構成されている。ただし、現在の公開情報だけでは、データ構成を項目ごとに監査するには不十分だ。今後は、単一生成の品質、中国語歌詞の音素誤り率、実際の生成速度、そして異なるGPUやデコーダー環境でコミュニティーが結果を再現できるかが注目される。

出典

  1. YuE2-3B Model Card
  2. YuE2: Frontier Music with Symbolic Planning