文書情報抽出における視覚接地の補強:アノテーション不均衡下での補助データ比較
概要
文書画像情報抽出における視覚接地(Visual Grounding; VG)では,抽出値と矩形領域の対を持つデータが必要となる。
しかし,実運用では,項目ごとにアノテーションの種類や量が偏り,ターゲット項目のVGデータが不足する場合がある。
本研究では,このような状況において,矩形を含まない同一項目の視覚的質問応答(Visual Question Answering; VQA)データを補助的に用いる場合と,他項目のVGデータを用いる場合を比較する。
実験の結果,他項目VGによる項目横断的な転移は限定的であった一方,同一項目VQAデータは抽出精度と矩形推定精度の双方を改善した。
さらにAttention分析により,同一項目VQA学習が正解領域への注意集中を高める傾向を確認した。