それは一枚の画像から始まった (2)

以前のエントリで悪性黒色腫(疑い)の写真(アイキャッチ画像参照)を掲げたが、そこでは深さ方向の情報を得るために計測系の話に触れた。が、流行りの「AI による自動診断」に話を持っていってももちろんいい。
悪性黒色腫はプライマリー的には

Asymmetry 非対称性
Border 輪郭がギザギザしている
Color 色むら
Diameter 大きさ
Evolving 変化がある

でチェックするらしい。A〜E すべてなんとも定量化しやすそうな量ではないだろうか。

ところで大阪医科大学の西澤先生が、AI が陥りがちなバイアスについてまとめた記事を( facebook 上でだか)教えてくれた。

AIのバイアスのほんとうの問題は人間が気づかないバイアスだ

皮膚ガンを見つけるシステムのエピソードが興味深かった。

 

もっと真剣な例としては、最近発表された写真を見て皮膚がんを発見しようとするプロジェクトです。後になってわかったのは、皮膚科の医者はよく皮膚がんの写真の中に大きさを示すために定規を入れる習慣があるということです。逆に、このAIシステムに与えられる健康な皮膚の写真には定規は入っていませんでした。

システムにとっては定規は皮膚がんと健康な皮膚のサンプルの写真の間にある違いに過ぎませんが、それは皮膚の上に見られるしみよりも大きな違いとして認識されました。そこで、皮膚がんを検出するためにデザインされたシステムは、定規を検出するシステムとして出来上がってしまったのです。

 

要するに、皮膚ガン(MMもたぶん含んでいる)を検出するシステムを作ろうとして、結果的に定規を検出するシステムを作ってしまった、というオチです。確かに機械的に画像を学習させていくと、この条件だと、ニューラルネットは画像上の定規が示す特徴をガンのもっとも重要な指標とみなすでしょうね。

 

猪股弘明(皮膚科でも放射線科でもなく精神科医

クリックclose

コメントを残す