ドラムループ演奏における熟達度自動推定に関する検討 - 龍谷大学

ドラムループ演奏における熟達度自動推定に関する検討
A method for automatically evaluating proficiencies of drum-loop performances
岩見 直樹1,三浦 雅展2
Naoki IWAMI1 and Masanobu MIURA2
1
龍谷大学大学院理工学研究科,2龍谷大学理工学部
1
Graduate School of Science and Technology, Ryukoku University.
2
Faculty of Science and Technology, Ryukoku University.
概要 本研究では,基礎的な練習を対象としたドラム演奏練習支援システムの提案および開発
を行なっている.提案する練習支援システムは,ユーザの演奏をMIDIデータとして記録し,
「演
奏の視覚化」および「演奏熟達度の自動評価」という 2 つの機能によってユーザの練習を支援
する.本稿では,
「ドラムループ演奏」と呼ばれる演奏を対象とした熟達度の自動推定手法を提
案する.実際に提案手法を用いて演奏熟達度の推定を行ない,人によって評価された熟達度主
観評価の結果と比較することにより,提案手法の有効性が確認された.また,提案する練習支
援システムのサブシステムが実装されており,その概要についても述べる.
Keywords: ドラム,演奏評価,練習支援,視覚化,MIDI
1. はじめに
音楽演奏を独学で習得する場合,演奏に対
する客観的な評価を得ることができない,あ
るいは,演奏の正確性を自身で判断すること
が難しいといった様々な問題がある.そのよ
うな独習者を支援するため,これまでにも音
楽演奏の練習を支援するシステムがいくつも
開発されてきた[1-4].しかし,ドラム演奏を
対象とした練習支援システムはこれまでに報
告されていない.そこで,本研究では MIDI
ドラムを用いて演奏の記録を行ない,
「演奏の
視覚化」および「演奏の自動評価」の 2 つの
機能によりユーザの練習を支援するシステム
の提案と開発を行なっている.
本稿では主に,
提案する演奏練習支援システムにおけるドラ
ム演奏熟達度の自動推定手法について述べる.
とする.本稿では,このような練習方法を「ド
ラムループ演奏(Drum-Loop Performance)
」
と呼ぶ.
ドラムループ演奏は,ドラムの基本的な練
習方法のひとつであり,ほとんどの初心者は
まずこのような練習を行なうことから始める.
実際,既存のドラム教則本にもこのようなリ
ズムパターンが多く掲載されている[5,6].ド
ラムループ演奏を行なうことで,ドラム奏者
は様々なリズムパターンを安定して演奏する
技術を身に付けることができる.
Hi-hat cymbal
Bass drum
(a) Eighth-note rhythm
Snare drum
2. 対象とする練習内容
本研究で提案する演奏練習支援システムで
は,Fig. 1 に示すような 1 小節あるいは 2 小
節程度から構成されるリズムパターンを指定
テンポで繰り返し演奏するという練習を対象
(b) Sixteenth-note rhythm
Fig. 1 ドラムループ演奏で使用する
リズムパターンの一例
本研究で提案するドラム演奏練習支援シス
テムの概要を Fig. 2 に示す.以下に提案シス
テムを用いた練習の流れについて説明する.
ユーザは,自らが演奏したいドラム楽譜を指
定し,MIDI ドラムを用いてその楽譜を指定
テンポで演奏する.演奏は MIDI データとし
て記録される.提案システムは,MIDI デー
タとして入力される演奏に対して,欠落音の
有無や打叩時刻のずれ,打叩強度を自動的に
検出し,演奏を様々な方法でリアルタイムに
視覚化する.ユーザは演奏中に自身の演奏を
視覚的に確認でき,以後の演奏に反映させる
ことができる.演奏が終了すると,その演奏
の熟達度が自動的に評価される.このことに
より,ユーザは自身の演奏がどの程度上手に
演奏されているかを確認することができる.
また,提案システムはユーザの苦手項目を推
定し,適切なアドバイスや指導を行なう.
Drummer
4. ドラムループ演奏における熟達度
の自動評価について
4.1 ドラムループ演奏の解析
ドラムループ演奏における熟達度の自動推
定手法を検討するため,複数のアマチュアド
ラム奏者にいくつかのドラム楽譜を演奏させ,
その演奏の記録および分析を行なった.ここ
では,ドラム演奏の評価にとって特に重要な
要素である,打叩時刻ずれについて分析を行
なった.Fig. 3 と Fig. 4 はその結果の一例であ
り,2 人のアマチュアのドラム奏者に Fig. 1(a)
の楽譜を指定テンポ 90 (bpm)で演奏させたと
きのハイハットシンバルにおける打叩時刻ず
れをプロットしたものである.
80
Onset deviation from metronome [ms]
3. 提案する練習支援システムの概要
Hi-hat
Approximate curve
60
40
20
0
-20
0
5000
10000
15000
20000
25000
30000
35000
40000
-40
-60
-80
Onset time on score [ms]
Playing a musical score
Fig. 3 ドラム奏者による演奏結果の例 (1)
MIDI data
MIDI recording
Real-time
visual feedback
Performance
situations
Evaluating
performance proficiency
Evaluation
results
Predicting player’s
weak-points
Advices
and instructions
Proposed System
Real-time processing
Non real-time processing
Fig. 2 提案するドラム演奏練習支援システム
Onset deviation from metronome [ms]
Analyzing
input performance
80
Hi-hat
Approximate curve
60
40
20
0
-20
0
5000
10000
15000
20000
25000
30000
35000
40000
-40
-60
-80
Onset time on score [ms]
Fig. 4 ドラム奏者による演奏結果の例 (2)
Fig. 3 および Fig. 4 は,横軸が楽譜上の時刻
を,縦軸がある楽譜上の時刻におけるメトロ
ノームからの打叩時刻ずれを表わしている.
具体的には,縦軸の値が 0 のときはメトロノ
ームに対して逸脱のないタイミングであるこ
とを意味し,正の値を取るときは「メトロノ
ームより遅い」ということを,負の値を取る
ときは「メトロノームより先行している」と
いうことを表わす.また,太い実線は打叩時
刻ずれの近似曲線を表わしている.Fig. 5 に
示す手順でハイハットシンバルにおける打叩
時刻ずれの系列 d(t)からその近似曲線 a(t)を
求めた.
Fig. 3 および Fig. 4 について,打叩時刻ずれ
に緩やかな変化(時系列データにおけるトレ
ンド[7])があることを確認することができる.
このような現象は演奏中に奏者内におけるテ
ンポが変動したことによって生じていると考
えることができる.つまり,奏者の演奏におけ
るテンポのゆらぎを意味する.ここでは,こ
の近似曲線が奏者内のテンポの変動を表わし
うるものであると考えた.また,1 小節の楽
譜を繰り返し演奏しているため,打叩時刻ず
れの変化において周期性が存在する可能性も
考えることができる.よって,単純に 1 打叩
当りの時刻ずれの加算平均値によって熟達度
を評価するのではなく,Fig. 3 および Fig. 4 に
示すような近似曲線の変動とその曲線からの
逸脱という 2 つの項目に分けて考えることは,
詳細な演奏熟達度評価において有効であると
考えられる.
d (t )
L-IN※1
DFT
LPF※2
I-DFT
※1 Linear
a(t )
Interporation
Filter
※2 Low-Pass
Fig. 5 打叩時刻ずれの近似曲線の算出法
4.2 提案する演奏熟達度の推定手法
前述のとおり,ドラムループ演奏の熟達度
評価において,単純に打叩時刻ずれの加算平
均を用いて評価するだけでは,人が行なうよ
うな評価ができるとは考えにくい.そこで,
ドラムループ演奏を対象とした熟達度推定手
法を提案する.Fig. 6 に提案する熟達度推定
手法の概要を示す.まず,記録した演奏デー
タから熟達度推定に用いる演奏パラメタを抽
出する.ここで,打叩時刻ずれに関する演奏
パラメタをpt,打叩強度に関する演奏パラメ
タをpvとする.抽出したptとpvに対して主成分
分析を行なうことにより,合成変数Pを生成
し,これを評価パラメタとする.そして,評
価パラメタPに対して任意の熟達度推定関数
f(P)を適用することにより,演奏熟達度の推
定値を算出する.
ここで,演奏パラメタとしてどのような特
徴を抽出するかということが問題となる.特
に 4.1 で述べたように,ドラム演奏における
打叩時刻ずれに関する演奏パラメタは複雑で
ある.そこで,打叩時刻ずれに関しては以下
のように大きく 3 つのグループに分類できる
演奏パラメタを抽出する.
i) テンポ変動曲線
4.1 で述べたように,
ドラムセットを構成す
る特定の打楽器(多くの場合,他の打楽器と
比較して打叩回数が多い傾向にあるハイハッ
トシンバル)における打叩時刻ずれの近似曲
線を求め,その曲線を奏者のテンポ変動を表
わすものとして,曲線の変動幅や変動の急峻
さなどをパラメタ化する.
ii) 音符毎の統計データ
ドラムループ演奏は同じ楽譜を繰り返し演
奏するため,楽譜上の音符毎に打叩時刻ずれ
の平均や標準偏差などの統計データを求める
ことができる.これらを演奏パラメタとして
用いる.
iii) 同時刻発音箇所における打叩時刻ずれ
Fig. 1 の楽譜から分かるように,ドラムセ
ットでは複数の打楽器を同時刻に打叩するこ
とがある.この同時刻に打叩する際の異なる
打楽器間の時刻ずれの度合いをパラメタ化し,
演奏パラメタとして用いる.
Performance data
Feature Extraction
pt = { pt1 , pt2 ,⋅ ⋅ ⋅⋅, ptL }
pv = { pv1 , pv 2 ,⋅ ⋅ ⋅⋅, pvM }
Principal Component Analysis
P = {P1, P2, ⋅ ⋅ ⋅ ⋅, PN }
f (P )
Estimation of proficiency
Fig. 6 提案する演奏熟達度の推定手法
4.3 演奏熟達度の主観評価実験
提案する演奏熟達度推定手法を実装するた
めには,記録した演奏データとそれらに対と
なる熟達度主観評価値を 1 組とした教師デー
タが必要である.そこで,教師データを取得
するため,演奏の記録を行ない,ドラムルー
プ演奏における熟達度の主観評価実験を行な
った.
ドラム演奏の記録
アマチュアのドラム奏者3名に10種類のリ
ズムパターンを指定テンポ 90 (bpm)で演奏さ
せ,その演奏データおよび音響データを記録
した.使用したリズムパターンは,1 小節か
ら成る基本的な8ビートあるいは16ビートの
リズムパターンである.各リズムパターンに
つき 2 回ずつ記録を行なったため,計 60(3
×10×2)個の演奏を記録することができた.
演奏熟達度の主観評価実験
記録した 60 個のドラム演奏に対して,
被験
者に演奏熟達度を主観的に評価させた.具体
的には,熟達度が低いと思うものから高いと
思うものへ順に 0~10 点で評価させた.実験
に用いる被験者は何らかの楽器演奏の経験者
とした.今回は,8 名の被験者が実験に参加
した.
実験に参加した被験者 8 名のうち,相互に
熟達度評価値の相関が高かった 5 名の評価結
果を用いて,その 5 名が回答した評価値の平
均を取ることで各演奏データに対する熟達度
主観評価値を決定した.この 5 名が回答した
熟達度評価値における被験者間の相関を
Table 1 に示す.
Table 1 熟達度主観評価データにおける
被験者間の相関係数
Subject A Subject B Subject C Subject D Subject E
Subject A
1
**
1
Subject B
.720
**
1
Subject C
.743**
.686
**
1
Subject D
.718**
.643**
.686
**
1
Subject E
.546**
.676**
.634**
.671
( **: p < .01)
4.4 提案手法の有効性の検証
提案する演奏熟達度推定手法の有効性を確
認するため,ここでは次の 3 種類の条件で演
奏熟達度の自動推定を試みた.
[条件 1]:打叩時刻ずれの加算平均値(すな
わち演奏全体における 1 打叩当たりの時刻
ずれの平均)のみを評価パラメタ(1
parameter)として用いる.
[条件 2]:演奏データから打叩時刻ずれに関
する演奏パラメタ群pt(18 parameters)のみ
を抽出する.それらのパラメタに対して主
成分分析を行ない,第 8 主成分まで(8
parameters)を評価パラメタとして用いる.
[条件 3]:演奏データから打叩時刻ずれに関
する演奏パラメタ群pt(18 parameters)およ
び打叩強度に関する演奏パラメタ群pv(13
parameters)を抽出する.それらのパラメタ
に対して主成分分析を行ない,第 8 主成分
まで(8 parameters)を評価パラメタとして
用いる.
条件 1~3 の各々において,4.3 で取得した演
奏データおよび熟達度主観評価データを教師
データとして用い,演奏熟達度の自動推定を
行なった.なお,Fig.6 における熟達度推定
関数 f(P)には,評価パラメタ群を独立変数,
熟達度主観評価値を従属変数として重回帰分
析を行なうことにより求めた回帰方程式を用
いて推定を行なった.各々の条件における重
回帰分析の結果の重相関係数Rおよび決定係
数R2をTable 2 に示す.
Table 2 熟達度主観評価値に対する
重相関係数Rおよび決定係数R2
Condition 1 Condition 2 Condition 3
R
R2
.772**
.596**
.882**
.778**
.913**
.833**
( **: p < .01 )
4.5 提案手法に対する考察
Table 2 の結果から,条件 1 よりも条件 2 の
方が良い精度で演奏熟達度を推定できている
ことが確認できる.よって,打叩時刻ずれの
評価において,4.2 で述べたような大きく 3
つに分類される演奏パラメタ群を抽出して熟
達度評価を行なうことにより,より人による
熟達度評価に近い結果が得られることを確認
することができた.また,条件 3 では条件 2
の演奏パラメタに加えて打叩強度に関する演
奏パラメタも用いて熟達度評価を行なってい
取る.メトロノームのタイミングよりも先行
る.Table 2 から,本実験で使用した打叩強度
している場合は正の値を,遅れている場合は
に関する演奏パラメタ群は熟達度の推定にお
いて有効であることを確認することができた. 負の値を取る.下側の折れ線グラフは,打叩
強度として MIDI ヴェロシティを視覚化して
5. サブシステムの実装
いる.
提案する演奏練習支援システムのうち,い
5.4 演奏熟達度の評価結果の提示
くつかのモジュールがサブシステムとして実
ユーザの演奏に対する演奏熟達度の評価結
装されている.Fig. 7 に現行システムの動作
果およびアドバイス文を,Fig. 7(c)のようなウ
画面の一例を示す.
ィンドウを用いてユーザに提示している.
5.1 演奏-楽譜間のマッチングアルゴリズム
5.5 現行システムに対する考察
楽譜通りの演奏を評価するためには,演奏
現行システムを複数人のアマチュアドラム
と楽譜の 1 対 1 の対応付けが必要になる.ド
奏者に使用してもらったところ,
「演奏の状態
ラム演奏における演奏と楽譜間のマッチング
が視覚的に表示されるため,自身の演奏の状
処理においては,音高情報をほとんど使用す
態がよく分かり,練習に役立つ」に類した感
ることができない,挿入音が多く含まれると
想をいくつも得ることができた.このことか
いった問題がある.そこで本研究では,ドラ
ら,ドラム演奏においても演奏の視覚化は有
ム演奏に適した演奏‐楽譜マッチングアルゴ
効的に機能すると考えられる.
リズムを提案している[8].現行システムにお
また,演奏熟達度の自動評価機能について
いても,この手法を用いて演奏と楽譜の対応
は,
「自分の演奏に対する評価が得られるため,
付けを行なっている.
面白い」など,練習に面白みを持たせるとい
5.2 練習課題の設定
う点において現行システムの有効性を確認す
Fig. 7(a)は,現行システムのメインウィンド
ることができた.
ウを表わす.ユーザはこのウィンドウ内で,
6 おわりに
練習課題の設定を行なうことができる.具体
的には,セル状に配置されたチェックボック
本研究では,
「ドラムループ演奏」と呼ばれ
スを用いて演奏したいリズムパターンを入力
る基礎的な練習を対象としたドラム演奏練習
し,演奏テンポをフォームに入力する.[Start]
支援システムを提案し,そのサブシステムを
ボタンをクリックすると,メトロノームが鳴
実装した.また,今回はドラムループ演奏に
り始め,ユーザはそれに合わせて指定したリ
おける演奏熟達度の推定手法を提案し,その
ズムパターンを演奏する.
有効性の検証も行なった.
今後の課題のひとつとしては,演奏熟達度
5.3 ドラムループ演奏の視覚化
の自動推定において,例えば演奏テンポを変
現行システムでは,複数の方法でユーザの
更するなど,今回使用したものとは異なる演
演奏を視覚化することができる.Fig. 7(b)にそ
奏データを使用しても同様の結果が得られる
の一例を示す.このウィンドウでは,ユーザ
かどうかを検証することが挙げられる.
の演奏の瞬時的な評価が視覚化される.ウィ
ンドウの中央に位置する楽譜形式の図は,ユ
謝辞
ーザが入力したリズムパターンを表わしてい
本研究を進める上で貴重なご意見をいただき,
る.もし,演奏中に欠落音が発生すると,当
日頃より多方面でご指導いただきました本学
該音符の上に赤い×印が表示される.また,
杉田繁治教授に感謝します.本研究の一部は
上側の折れ線グラフはメトロノームからの時
文部科学省のハイテク事業による私学助成を
刻ずれを表わしている.縦軸は,メトロノー
得て行なわれた.
ムから逸脱のないタイミングならば 0 の値を
のための全知識”
,リットーミュージック,1995.
参考文献
[6] R. Savage, C. Scheuerell, and the Berklee Faculty, “Berklee
[1] R. Dannenberg, M. Sanchez, A. Joseph, R. Joseph, R. Saul,
Practice Method DRUM SET Get Your Band Together”,
and P. Capell, “Results from the Piano Tutor Project”, Proc. of
Berklee Press, 2001.
the Fourth Biennial Arts and Technology Symposium, 1993.
[7] 北川源四郎,
“時系列解析入門”
,岩波書店,2005.
[2] S. Smoliar, J. Waterworth, and P. Kellock, “pianoFORTE: A
[8] N. Iwami, M. Miura, “A Support system for basic practice
System for Piano Education Beyond Notation Literacy”, ACM
of playing the drums”, Proc. of International Computer Music
Mul-timedia95 - Electronic Proc., 1995.
Conference 2007, 2007.
[3] D. Hoppe, M. Sadakata and P. Desain, “Development of
“ポップス系ドラム
[9] 奥平啓太,平田圭二,片寄晴弘,
real-time visual feedback assistance in singing training: a
演奏の打点時刻及び音量とグルーブ感の関連について(第
review”, Journal of Computer Assisted Learning, 22, 2006.
3 報)‐データの基礎的分析とドラム演奏生成システムの
“ピアノ基礎技術を
[4] 江村伯夫,三浦雅展,柳田益造,
実装‐”
,情報処理学会研究報告 2006-MUS-64,2006.
向上させるための独習支援システム”
,音楽音響研究会
“ドラム演奏のグルーヴ感の解
[10] 渡辺哲朗,近山隆,
資料 MA2005-6, 2005.
析”
,情報処理学会研究報告 2006-MUS-67, 2006.
[5] 長野祐亮,
“PLAYERS’ HANDBOOOKS ドラマー
(a) メインウィンドウ
(c) 演奏熟達度およびアドバイス文を
提示するウィンドウ
(b) 瞬時的な演奏評価を視覚化するためのウィンドウ
Fig. 7 現行システムの動作画面