千葉大学の川本一彦教授らのチームは、画像認識AIが画像のどの箇所に注目して判断しているのかを可視化する手法を開発した。ほとんどの画面で4～16％の領域から物体などを正確に認識することが可能であると分かっている。

AIの認識でどの部分がどれだけ大切かを可視化できる技術はAI理解の上で大切だ。従来の手法では、貢献度が上位のピクセルを見えるようにしていたが、背景などの補助情報は見える化できていなかった。

研究チームは画像認識 AI 技術の判断根拠を可視化する、新たな技術を開発した。食欲法という手法を考え、画像1枚の可視化時間を100倍高速化することに成功している。また、より精密に計算することが可能になったという。

チームは今後について「自動運転における歩行者や標識の検出の信頼性を高めるなど、安心・安全な AI を実現するための応用が期待される」と評している。