技術の力に、倫理は追いつくか
環境倫理が「人間の力が大きくなった時代の責任」を問うたように、AIと技術もまた、倫理に新しい難題を突きつけます。AIと社会やデータの倫理で制度面を学びましたが、ここではその根底にある倫理的な問いそのものを、倫理理論を使って深めます。技術の進歩の速さに、私たちの倫理は追いつけるのでしょうか。
責任は誰にあるのか
AIが人に関わる判断を下す時代、まず問われるのが責任の所在です。自動運転車が事故を起こしたら、誰の責任か——運転していた人か、車のメーカーか、AIを開発した技術者か、それともAI自身か。AIが融資を断り、採用で落とし、その判断が人生を左右したとき、誰がその結果に責任を負うのか。
従来の倫理と法は、「行為には行為者がいて、その人が責任を負う」という前提で成り立っていました。しかし、判断が人間から機械へ移り、しかもその判断の理由がブラックボックスで説明できないとき、この前提が揺らぎます。責任の主体が曖昧になる——これは、法や正義の根幹に関わる、新しい倫理的難問です。
公平をどう保証するか
もう一つの中心的な問いが、公平性です。AIは過去のデータの偏りを引き継ぐため、「客観的」を装いながら差別を再生産しかねません。ここで倫理理論が試されます。何をもって「公平」とするか——結果の平等か、機会の平等か、手続きの公正か。実は、「公平なAI」を作ろうとすると、複数の公平の定義が数学的に両立しないことすらあると分かっています。技術の問題に見えて、根っこは「何が公正か」という正義論の難問なのです。
「できる」と「すべき」の間
技術倫理の最も基本的な原則が、「できることと、すべきことは違う」です。科学と社会で見た「事実と価値の区別」の、技術版です。
技術は、「何ができるか」を絶えず広げます。人々を細かく監視する、本物そっくりの偽物を作る、生命に関わる判断を機械に委ねる、人間の能力を技術で拡張する——これらは、次々と「技術的に可能」になっています。しかし、可能だからといって、すべきとは限りません。可能性と是非を分けて考えること。「なぜそれをするのか」「誰が得をし、誰が傷つくのか」「越えてはならない一線はどこか」を問うこと。技術が暴走しがちなのは、しばしば「できるから、やる」という論理に流されるからです。
倫理は進歩を止めるのか
「倫理は技術の進歩を邪魔するだけ」という声もあります。しかし、これは誤解です。倫理的な問いは、技術を止めるためではなく、技術を人間のために正しく使うためにあります。歯止めのない技術は、しばしば人間を傷つけてきました。倫理は、技術の力を、人間の尊厳や幸福に奉仕させるための、羅針盤なのです。速く進むことと、正しい方向に進むことは、別なのです。
ニュースで使う視点
AIの判断をめぐる論争、自動運転の事故、顔認証と監視、生成AIと著作権、技術規制——技術倫理のニュースを読むときは、「責任は誰にあるか」「公平はどう保証されるか」「できることと、すべきことは区別されているか」を問うてください。技術の問題の多くは、根っこに古くて新しい倫理的問いを抱えています。次の最終レッスンでは、道徳的配慮の範囲を人間の外へ——動物と倫理へ広げます。