臨床医学は「中国語の部屋」そのもの 〜医学をつつむ大きな人工知能について〜

投稿者: | 2014年11月9日

中国語の部屋とは

中国語の部屋」という人工知能の思考実験がある。
これが医療からみるとおもしろい。

以下Wikipediaより「中国語の部屋」について

 ある小部屋の中に、アルファベットしか理解できない人を閉じこめておく。この小部屋には外部と紙きれのやりとりをするための小さい穴がひとつ空いており、この穴を通して英国人に1枚の紙きれが差し入れられる。

 そこには彼が見たこともない文字が並んでいる。これは漢字の並びなのだが、英国人の彼にしてみれば、それは「★△◎∇☆□」といった記号の羅列にしか見えない。 彼の仕事はこの記号の列に対して、新たな記号を書き加えてから、紙きれを外に返すことである。

 どういう記号の列に、どういう記号を付け加えればいいのか、それは部屋の中にある1冊のマニュアルの中に全て書かれている。例えば”「★△◎∇☆□」と書かれた紙片には「■@◎∇」と書き加えてから外に出せ”などと書かれている。

 彼はこの作業をただひたすら繰り返す。外から記号の羅列された紙きれを受け取り(実は部屋の外ではこの紙きれを”質問”と呼んでいる)、それに新たな記号を付け加えて外に返す(こちらの方は”回答”と呼ばれている)。すると、部屋の外にいる人間は「この小部屋の中には中国語を理解している人がいる」と考える。

 しかしながら、小部屋の中には英国人がいるだけである。彼は全く漢字が読めず、作業の意味を全く理解しないまま、ただマニュアルどおりの作業を繰り返しているだけである。それでも部屋の外部から見ると、中国語による対話が成立している。

↓のスライドは中国語の部屋のイラストが掲載されているというだけで引用です

臨床医学は「中国語の部屋」そのもの

 医療の観点からみると、この「中国語の部屋」はとってもリアルだ。それは思考実験ではなくて、日々過ごしている風景と重なる。

 医師の手元には、採血データ−、画像データ、患者の問診、触診といった、「曖昧なデータ」が各検査室から送られてくる。医師はそのデータを、マニュアルや臨床ガイドラインと比較して、病気を診断したり、治療法を決定する。医者はみな、一つ一つのデータの意味を詳しく知っていると思うかも知れないけれども、経験上そんなことはない。

 血液検査なら、検査技師のほうが詳しい。エコーなら、検査技師の方が詳しい。CTやレントゲン画像なら、読影医の方が詳しい。細胞や組織の個別の働きなら基礎研究者や病理医のほうが詳しい。薬の働きや副作用は薬剤師の方が詳しい。病歴や症状は患者のほうが詳しい。リハビリは各種療法士の方が詳しい。治療費や保険制度は事務員の方が詳しい。転院調節はソーシャルワーカーの方が詳しい。患者のケアについては看護師のほうが詳しい。医者が詳しいことなど一つもないのだ。

 それにも関わらず、患者とデータの全体像をボーっと眺めることができるため、臨床医は重宝される。逆に言うと、医師はボーっと全体を眺めているだけで、かならずしも個別の病気の詳しいメカニズムを理解しているわけではない。また、よく理解している医者が名医とも限らない。

 こうやってデータをボーっと見た時の、漠然とした印象を医者は「病気」と呼んでいる。医者がさまざまなモダリティにアクセスして通して感じている「病気」というのは、その時代、時代のテクノロジーによって、かなり違うと考えられる。(まして患者が感じている「病気」とはかなりの差があると思われる。)

名称未設定

 しかし、実際にはデータの全体像をボーっと眺めていても、結局なにがなんだかよくわからないことも多い。目隠し将棋のようなものなので、大変な勘違いをしている場合もある。

 そういうときはマニュアルの類を引っ張ってきて、調べる。こうなってくると、もう中国語の部屋だ。世の中には自分のよく知っている病気よりも、知らない病気の方が圧倒的に多い。いつもずっと中国語の部屋に入り浸っている気分になってくる。

治験は中の人が何も分かってなくても辞書の改訂を可能にする

 中国語の辞書には「ガイドライン」や、「臨床マニュアル」が相当する。EBM(根拠に基づいた医療)の時代には、これらのテキストは職人の勘や経験ではなく、治験に準拠することが求められている。この「治験」というのは、たいへん良く出来たシステムだ。

 中国語の部屋で例えると、「ニーハオ」という文章が来た時に、「ニーハオ」と、「シェシェ」とランダムに返してみる。そして反応の良い方を採用することにして、マニュアルを改訂する。これなら、中国語が全くわかっていなくても大丈夫だ。この作業を繰り返して、ガイドラインは精緻・複雑になっていく。

 (実は、この方法論には明らかな欠点がある。まず症例を集めて治験をやることは途方もなく大変だ。だからこそ昔の人は、病態生理を理解することに大変な努力を費やしていた。現在でも医師はエビデンスの普及していない領域に到達すると病態生理からの推論を使う。ほかにも単純から複雑な方向へ”進歩”するというダーウィニズム的な誤解もあると思っている。しかしそれはまた別の話。)

誰も医学を理解していないかもしれない

 で、そこらの医者が自分の経験ではなく、これらのガイドラインを参照して治療を行っているとすると、ほんとうに「医学」を理解している主体は誰だろうか。

 中国語の部屋を考案した哲学者サールは(Wikipediaによると)「中国語の部屋を体内化して、すなわち部屋の中にある中国語のマニュアルを中の人がマスターし、中国語のネイティヴのように会話ができたとしても、なおその人は意味論的な見地からは中国語を理解していないと主張している。」。要するに、診療マニュアルやガイドラインを丸暗記して診療をしている医者なぞは、医学なんてまるでわかっておらんという主張である。
 もしも、それが正しいなら、厳密な意味では、地球上の医者は誰一人として医学を理解していないということになる。そもそも診療マニュアルやガイドラインを丸暗記している医者なんて滅多にいないのに、そんな超秀才といえる人でも医学など全く分かっていないと全否定されてしまうと「それはちょっと厳しすぎる世界だなあ。もっと楽観的な意見はないのかな?」という気持ちになる。

コンピュータを使わない 「大きくて遅い人工知能」に気をつけろ!

 2014年を生きる私達は、コンピューターという、手元にある小さな人工知能にばかり注目しがちだ。「知性」は人間の脳と、コンピュータのチップの2ヶ所しかないような錯覚におちいる。

 けれども社会をよく見渡すと「臨床医学」という、とても洗練された巨大でノロマな人工知能がある。(私は医療セクションの人間だから「臨床医学」に注意がいくけど、社会のあちこちに同じような人工知能があるのだろうと思っている。)

 「どうして医療の世界ではいまだに人工知能が使われないの?」なんていう質問に対する答えは簡単だ。私達はすでによくできた人工知能の内側に住んでいる。ただ、その人工知能は規模がでかくて、学習速度もとてもゆっくりで、なによりも私達自身がその歯車の一部となっている。だから、大きすぎてよく見えない。人はみな、自分が大きなクジラの中の一つの部品に過ぎないなどということを、認めたがらない。

 世の中には小さすぎて、早すぎて見えないものと、大きすぎて見えないものがある。臨床医学は、人工知能であるが、大きすぎて見えない。

 臨床医学は「中国語の部屋」を作る試みとして大きく成功している。たとえば医者が「病気の診断基準」を作る過程はパーセプトロンとほぼ同じだ。

 大小様々なサイズの中国語の部屋の連結する構造は、医学にかぎらず、社会のいたる所にある。そういった巨大な構造は、人間の頭脳を本当の意味では使うことなく、多くの知能を溜め込んでいる。これらが人工知能の文脈で語られないのは、不思議だ。

 医療現場で人工知能を活用する場合は、この「大きな人工知能」をどう考えるのかが大切だと思う。置き換えるのか、競争するのか、サポートするのか、利用するのか、強化するのか、破壊するのか、無効化するのか、互いに協力するのか、もっと別のレイヤーで競争するのか。いずれもやり方は思い浮かぶ。いずれもワクワクするようなシナリオになりそうだ。(その先には混沌が待っていそうだけど)

医学の部屋のどこで「小さな人工知能」を使うのか

 人工知能を医療の世界に応用しようというニュースをよく見かける。医学と人工知能の類似性に引き寄せられるのだろう。けれども、それは医療というあいまいな営みから、人工知能を強引に抽出したのが医学であるというだけで、ナマの医療は必ずしも人工知能的なものとは限らない。

 だから、単純に医学の人工知能的な部分に着目してコンピューターを活用しようとすると、それは「医学という人工知能」をより不完全な形で模倣するにとどまり、うまく現実に適応できないと思う。
 医師の知能をプログラムに埋め込むルールベースのシステムでは特にそうだ。そのやり方では、すでにある臨床医学という「人工知能」を超えられない。

現場の人間の「自己決定」をどう考えるか

 まとめると、2014年を生きる私達は、すでによく発達した人工知能の中に生きている。しかし、それらは大きすぎたり、私達が部品の一部としておさまっているため、なかなかよく観察することができない。だから、人工知能の将来を考えるときは、個人を人工知能によって置き換えるという文脈よりも、コンピュータを使わない大きな人工知能とどう付き合っていくのかを考えていく必要がある。大きな人工知能は、そこにあるにも関わらず、十分に言語化されていない。

 医療の世界でAIをどう使っていくかについて考えるときは、この「コンピュータを使わない大きな人工知能」と「コンピュータを使う小さな人工知能」をどうやって仲良く付き合っていくのか考えるとともに、どうやって現場の人達の「自己決定」を肯定していくかということが、人工知能の活用に際してはますます大切な課題になってくると思う。

患者の「自己決定」をどう考えるか

 これはもっと難しい話だ。
 そして、医療の全てだ。
 

まとめ

 医学が進歩するたびに、新しい診断・治療技術が開拓され、それらは次々とアウトソーシングされてきた。

 杉田玄白らは解剖を開拓して解体新書を書いた。それらの技術は、解剖学・病理学としてアウトソーシングされている。
 野口英世らは細菌培養で微生物を特定しようとした。それらの技術は、細菌検査室としてアウトソーシングされている。
 従来は手作業であった、血球検査、血清学的検査は機械化され、検査室としてアウトソーシングされている。ここで働いているのは臨床検査技師さんだ。
 レントゲンやCTは放射線技師の領域である。
 薬の生産や開発や、製薬メーカーの仕事だ。

 実に多くの技術が、アウトソーシングされていったことが分かる。優れた研究医達は多くの技術を開発したが、それらはほとんど手元に残ってはいない。彼らの業績は広く理解されるどころか、誰も理解しなくても良いように隠蔽され、アウトソーシングされるのだ。そして、評価関数の項目は多くなり続けている。医療向け人工知能は、その整理のための使用がまずは期待される。(医療のための人工知能の開発も、いずれはアウトソーシングされる可能性が高い。)

 医師の本当の役割は、策を講じる人(tactician)ではなく、癒す人(healer)であるときく。
 癒す人であることは難しい。策を講じる人のあり方はその時代時代によって変わるが、癒す人に関してはほとんど変化がない。

 結局よくわからない困った結論になってしまった。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です