AIは、もう「人を選別」している
生成AI(前レッスン)が話題の中心ですが、私たちの生活により深く食い込んでいるのは、静かに決定を下すAIの方かもしれません。あなたが気づかないうちに、アルゴリズムは日々あなたに関する判断を下しています。
- SNSや動画サイトが、次に何を見せるかを決める(推薦)
- ローンやクレジットカードの審査(与信)
- 大量の応募書類のふるい分け(採用)
- 一部の国では、再犯リスクの予測が量刑や保釈の判断を補助する
これらは効率的で、24時間動き、人間のような気分のムラがありません。だからこそ急速に広がっています。しかし、その便利さの裏に、見えにくい問題が潜んでいます。
問題1:偏りの再生産
最大の落とし穴は、機械学習の回で学んだデータの偏りです。アルゴリズムは過去のデータから学ぶため、過去の社会にあった偏りをそのまま——ときには増幅して——引き継ぎます。過去の与信データで貧しい地域が不利に扱われていれば、それを学んだAIも同じ地域を不利に判定する。「機械が決めたから公平」ではなく、「過去の不公平が自動化された」だけかもしれないのです。しかも人間の差別と違い、アルゴリズムの偏りは全員に一律・大規模に適用されます。
問題2:ブラックボックス
もう一つがブラックボックス問題です。高度なAIは内部が複雑で、「なぜこの人を不採用にしたのか」「なぜこの人の融資を断ったのか」を、開発者ですら明快に説明できないことがあります。判断が人の人生を左右する場面で、理由を説明できないのは重大です。反論も、改善も、検証もできないからです(問いを立てる技術の「根拠を問う」姿勢が効きません)。
問題3:推薦が作る情報の泡
推薦アルゴリズムには固有の副作用もあります。「あなたが好きそうなもの」を見せ続けることで、エコーチェンバー——似た意見ばかりが増幅される情報の泡——を強めます。効率的な推薦が、社会の分断(格差と分断)に手を貸す構図です。
ニュースで使う視点
「AIが採用に導入」「アルゴリズムで審査」というニュースを見たら、便利さの裏で3つを確認してください。どんなデータで学んだか(偏りはないか)。判断の理由は説明されるか(ブラックボックスでないか)。間違えられた人に異議を申し立てる道はあるか。 効率と公平は自動的には両立しません。誰が責任を持ち、どう是正するかが問われます。
その「どう制御するか」を社会のルールとして考えるのが、次の最終レッスンのテーマです。