それは一枚の画像から始まった (2)

以前のエントリで悪性黒色腫（疑い）の写真（アイキャッチ画像参照）を掲げたが、そこでは深さ方向の情報を得るために計測系の話に触れた。が、流行りの「AI による自動診断」に話を持っていってももちろんいい。
悪性黒色腫はプライマリーケア的には

『AIのバイアスのほんとうの問題は人間が気づかないバイアスだ』

皮膚ガンを見つけるシステムのエピソードが興味深かった。

 

もっと真剣な例としては、最近発表された写真を見て皮膚がんを発見しようとするプロジェクトです。後になってわかったのは、皮膚科の医者はよく皮膚がんの写真の中に大きさを示すために定規を入れる習慣があるということです。逆に、このAIシステムに与えられる健康な皮膚の写真には定規は入っていませんでした。

システムにとっては定規は皮膚がんと健康な皮膚のサンプルの写真の間にある違いに過ぎませんが、それは皮膚の上に見られるしみよりも大きな違いとして認識されました。そこで、皮膚がんを検出するためにデザインされたシステムは、定規を検出するシステムとして出来上がってしまったのです。

 

要するに、皮膚ガン（MMもたぶん含んでいる）を検出するシステムを作ろうとして、結果的に定規を検出するシステムを作ってしまった、というオチです。確かに機械的に画像を学習させていくと、この条件だと、ニューラルネットは画像上の定規が示す特徴をガンのもっとも重要な指標とみなすでしょうね。

?『それは一枚の画像から始まった』機械学習・AI編 などもご参考に。