矢野経済研究所 ＩＣＴ・金融ユニット

対話型AIが普及し始めた頃、利用者の意見に何でも同調し、間違った考えまで肯定するような回答が問題になったことがある。悩みを相談する側にとっては心地よくても、かえって誤った判断につながると懸念されていた。かといって、AIがいつも反論するのも人間としては望ましくない。では、AIはいつ賛成し、いつ反論すべきなのか。

最近、大手AI企業が哲学者を積極的に採用しはじめている。その背景には、AI開発の現場で哲学的な考え方が重視されるようになっていた。Anthropic社は今年1月、哲学者の主導で作成した「Claude」の新たな「憲法」を公開した。AIが守るべきルールだけでなく、その理由も説明することで、さまざまな状況に応じて適切に判断できるようにするという狙いからだ。また、AIの研究に、古代ギリシャの哲学者ソクラテスが用いた問答法も取り入れるなどの取り組みを進めている。これによってAIが利用者の意見に安易に同調したり、根拠なく自信を持って答えたりするのを防ぐ効果を期待していると同社は説明した。

しかし、AIに正しい判断を教えるのは簡単ではない。そもそも哲学の世界でも、「何が正しい行動なのか」について意見が分かれるためである。代表的な考え方として、「義務論」と「結果主義」がある。義務論は、たとえ良い結果につながるとしても、嘘や強制など、してはいけない行為があると考える。一方、結果主義は、その行動によって得られる利益と生じる被害を比較して判断する。例えば、自動運転車が事故を避けられない状況で、どうすれば被害を最小限に抑えられるかという問題は、結果主義に関わるものだ。しかし、被害を減らすためなら、どんな行動も許されるのかという別の問題も残る。

AIは何を基準に判断し、どう行動すべきなのか。こうした問いに向き合うことも、AI開発に携わる哲学者の役割となっている。ただし、何が正しいかは時代や社会、文化によっても異なり、哲学者の間でも意見が分かれる。AIに判断を任せる場面が増えるほど、その基準を誰が決め、それが適切かどうかをどう確かめ、必要に応じてどう見直していくのかが重要になるだろう。

参照：The Economist「Why big AI labs are hiring so many philosophers」