【AIとトロッコ問題】道徳的ジレンマや合理性の果てに【小論文のカギ】

学び

トロッコ問題

みなさん、こんにちは。

元都立高校国語科教師、すい喬です。

今回はイギリスの哲学者フィリッパ・ルース・フット(1920年〜2010年)が提起した倫理学な思考実験をさらに先まで考えてみます。

以前、NHKで放送されたハーバード白熱教室を記憶しているでしょうか。

初めて聞いたという人もいるでしょうね。

マイケル・サンデル教授によって展開されたユニークな講義でした。

時代をリードする対話型の授業だったのです。

そこで話題になったのが倫理観を課題にした問題でした。

問いの形は単純です。

ポイントは「ある人を助けるために他の人を犠牲にするのは許されるか」 といったものです。

問いは次の通りでした。

急に道路上に5人が飛び出してきた場合、それを避けるためには歩道を歩いている1人に向かってハンドルを切ることは許されるのかということです。

車の場合はこうなりますが、原案はトロッコでした。

線路上で工事をしている5人を前にして、トロッコが暴走を続けています。

ブレーキが故障していて、全く利かないのです。

このままいくと全員をひき殺してしまうのは確実です。

そこで支線に舵を切ろうとすると、そこには同様に線路の工事をしている1人の男がいました。

この場合、5人を救うために舵を切って、1人の男をひき殺してしまうことは許されるのかという問いです。

さまざまなバリエーション

この問いにはさまざまなバリエーションがあり、対象が男、女、年齢などさまざまな条件に切り分けられています。

人数についても、条件を変更することが可能です。

多くの国でサンプル問題の解答を得た結果、かなりばらつきがありました。

この問題をそのまま、小論文のテーマにすることも可能です。

しかし今日では、これに新たなパラメーターを加えるのが標準になりつつあるのです。

その1つが全世界を3つに分けて考えるというものです。

つまり民族や地域によって、倫理観に差があるという事実です。

ここではわかりやすく東洋型、西洋型、南洋型に分けてみましょう。

極東と東南アジア地域、欧州と北米地域、さらに南米地域に分けたのです。

すると明らかに救える人命の数や、合法的な行動をとる人を優先的に救おうとする傾向に違いがみられました。

さらに、老人の尊重、男女を等しく扱うかといった態度にもばらつきがありました。

東洋型では法を守らないものの命は軽んじられ、若者や女性に冷たいのです。

西洋型ではどれもバランスよく考える傾向が見て取れます。

南洋型では社会的地位の高い命の尊重と、若者そして女性の命の尊重です。

他の型と比較した時、ここでは健康なものの命をより尊重する傾向が見出されました。

しかしそれ以上に重要なパラメーターは、ITの利用が可能な場合はどうかということです

自動運転が喫緊のテーマになりつつある今、ITは人間の倫理をどう判断すべきかということなのです。

確かにITは確実に我々の生活を変貌させています。

その存在は大変に重いものです。

ところがその背後でプログラムをインプットしているのは、他ならぬ人間なのです。

アルゴリズムを作り出し、ビッグデータを元にして、価値判断を繰り返します。

どういう倫理観を最優先するかによって、この選択は大きな意味を持つのです。

分類の結果は自動運転システムの設計に組み込まれていきます。

もっといえば、どの地域で販売するのかをよく見極めなければ、自動車の販売台数に大きな影響を与える可能性を持っているのです。

自動運転とAI

例えば、ブレーキが間に合わない状況で、自動運転の車の前を横切る3人の老人がいたとしましょう。

そしてその横に車止めブロックがあらわれたとします。

この場合、老人たちの列に突っ込むのか、またはハンドルを切って、自らの車を所有者である運転手もろともブロックにぶつけることが正解なのか。

あなたならどちらの立場をとりますか。

その時、前を行く歩行者が子供だったらどうなるでしょうか。

歩行者が横断歩道を渡っていた場合と、車道を違法に横断していた場合に判断の違いはありますか。

自分の車に子供や妻が乗っていた場合はどうか。

運転手が第三者の場合はどうなるのでしょうか。

問題を切り分けていくと、正解に類するものの数が増えていきます。

小論文への糸口

バリエーションが複雑になっていくばかりなのです。

このテーマの解決には、当然、さらに多くのデータが必要になるでしょう。

そこまで、倫理の翼を広げないと、解決への糸口がみえません。

これを小論文のテーマにすることは可能でしょうか。

試みにグラフなどを添付するのもいいでしょう。

東洋型、西洋型、南洋型で明らかになった倫理観のグラフを示し、どの場合は何を優先するのかを考えさせます。

判断の基準をより複雑にするのです。

今日、AIは問題をますます輻輳化させています。

民生用のドローンやロボットなどはプログラムを少し入れ替えただけで、兵器に生まれ変わります。

AIを活用すれば、少しも不可能ではありません。

答案を読んだ時、受験生のレベルを推し量るには、非常に洗練された問題になりうる可能性があるのです。

トロッコ問題にしても、現実にこれといった結論は出ていません。

それくらい、倫理の問題は複雑です。

今日の戦争は既に正解のない段階に入っています。

ガザ地区で行われているホロコーストに近い惨状を見る時、その感がいっそう強くなるのを否定できないのです。

ぜひ、1度、この問題を自分で考えてみてください。

文章にまとめてみることをお勧めします。

年齢、性別、社会的貢献度、人数などのパラメーターを入れながら、この問題を考察してみましょう。

今回も最後までお読みいただき、ありがとうございました。

タイトルとURLをコピーしました