正解のない問いをAIに反論されると、人はどれだけ自分の判断を変えるのか。神戸大学の研究チームが、この問いを実験で確かめました。19〜28歳の若年層56人と65歳以上の高齢層74人に、暴走するトロッコの進路を切り替えれば5人が助かる代わりに別の1人が犠牲になる、という功利主義の定番の思考実験「トロッコ問題」を出題し、いったん自分の判断を答えてもらったうえで、ChatGPTに反論させたのです。結果、3割を超える参加者が自分の判断を覆しました。しかも高齢層のほうが、若年層より影響を受けやすい傾向が見られたといいます。
トロッコ問題に「絶対の正解」がないからこそ、この結果は興味深いものになります。もし正解が一つに決まっている問いなら、AIの反論で判断が変わるのは単に「間違いに気づいた」だけかもしれません。しかし正解のない道徳的な問いでこれだけ判断が動くということは、AIが持つ説得の力が、論理の正しさとは別のところでも働いている可能性を示しています。ロゴス(論理)だけでなく、AIという語り手そのものへの信頼(エトス)が判断を動かしているのかもしれません。
研究チームが懸念するのは、この力が悪用された場合です。正解のない問いで人の判断を動かせるということは、偽情報の拡散や世論工作にも同じ仕組みが使われうるということでもあります。AIの答えを鵜呑みにする前に、それがどの種類の説得力によって自分を動かそうとしているのかを一呼吸置いて考える——この実験が示しているのは、そんな読み方の必要性です。