AIと哲学

判断

AIが苦手な分野として「判断」が挙げられることが多い。そこで判断について考えてみよう。

何かを判断するためにはその選択肢を絞り込む必要がある。つまり関係のない事柄を除外していく。しかしある事柄が絶対に関係ないと断言するのは論理的には困難である。無関係であることについての反論には関係することを一つでも見つければよい。一方無関係であることの証明にはすべての事柄を検証しなければならないので事実上不可能である。例えば次の食事に何を食べようかと考えるとき海外の人々の考えは関係なさそうに思える。しかし昨夜テレビ番組で観たチリの生活が影響する可能性は否定できない。チリの生活と私の生活のとても弱い関係がたまたま観たテレビ番組によって強い関係へと変化してしまうかもしれない。

弱い関係と強い関係

我々の生活を取り巻くすべての事柄には絶対的無関係は存在せず、弱い関係と強い関係が存在すると考えてよさそうだが、弱い関係と強い関係には判別基準があるわけではなく、個人によって、社会によって、時代によって変化する。また個人の判別基準もタイミングによって変化する。もちろん個人の中での判別基準はある程度一定であり、それが個人の考え方を形成している。言い換えれば個人の判別基準に大きく影響する強い関係には常在的なものが存在する場合があり、他人から見てそれがわかりやすい人は「首尾一貫した考え方の人」とか「ポリシーのはっきりした人」呼ばれる。このように表現すると良く聞こえるが同じ人物を「融通性が低い」とか「頭が固い」と評することもある。

弱くてほとんど関係を意識しない事柄の中には、何かのきっかけで強い関係に変化するものもある。そのきっかけを意識している場合もあれば、きっかけがわからないがいつのまにか強い関係になっている場合もある。このような場合「考え方が変わった」と表現される。その遷移は大変興味深いが、先に述べた通り強い関係と弱い関係の間に明確な判別をつけることは困難である一方、連続的なものではなく中間を意識しにくいOn-Offタイプになっていると思われる。すべての事柄を全体として下に凸な多次元方程式に投影し、投影されたところから最も近い極点に移動させて弱い・強いの関係性を判断しているようなイメージと言えばわかりやすいであろうか。

弱い関係のものいくつかが重なって強くなったり打ち消しあったりもする干渉が存在する。この干渉をある程度数式化できる場合は判断をプログラミングできる可能性があるだろう。

強い関係の中での選択

強い関係として意識の中に浮上した選択肢の中から何を選び取るのか。合理的に選ぶことができれば、あるいは確率的に選ぶことができればAIによって判断することが可能となる。しかしそのような選択が可能なのであろうか。

問題は強い関係として列挙されたものから導かれる選択肢が、必ずしも、否、多くの場合、比較が困難な別次元に存在する要因の比較になることである。どの選択肢を選択しても納得のいかない部分が残り、結果論としてはクレームをつけうる決断である場合、そのクレームがAIを作る側に回ってくると対応しきれないので判断するAIを作らないか、判断の基準を示して納得のいかない人は使用してはならないという立場をとるかになろう。

AIによる判断支援

人はどのような立場であれ判断に対してその根拠となるものが欲しいし、判断後に「言いわけ」となるものが欲しい。従ってAIによる判断で白黒を示すものではなく、計算の結果となる数字の表示は必要であろう。なお計算の根拠、計算の過程を求める意見もあるが、専門家に説明を求めた時のような、わかりやすい例示を踏まえた説明の方が歓迎されるであろう。計算結果を5段階表示したり、模式図化して表示したりする方法は人間の判断を補助するであろう。しかし100分率あるいはそれ以上の細かい数字での表示はAI開発者が考える以上に人間の判断を拘束することになるであろう。A:79.2%とB:86.6%と提示されればAを選択するには強い医師が必要となる。

AIによる判断支援をどのような形で行うべきかは今後数年内に研究が進めるべきであろう。