生成AIの底力
みなさん、こんにちは。
元都立高校国語科教師、すい喬です。
近年、AIについての記事を見ない日はありません。
新聞、ネット、雑誌のどこをみても関連の文章で溢れかえっています。
先日も生徒が使っているタブレットで生成AIが使えるのかをチェックしてみました。
先生方も詳しくは知らなかったようです。
実際に調べてみると、代表的な生成AIは全部はじかれていました。
つまりアプリの内部には入れなかったのです。
生徒が勝手に使ってしまうという状況は、やはりまずいと教育委員会が考えたからなのでしょう。
しかし自宅のPCでは誰でもが容易に使えます。
スマホでも可能です。
この事実はおさえておかなければいけません。
あらゆる授業で生成AIを生徒が使い始めたら、どうなるのか。
記憶に絡む内容ではなく、むしろ思考のルートをたどるタイプの授業がしにくくなるに違いありません。
あらゆるデータを蓄積し続けるAIの頭脳にとって、生徒たちが毎日たたくキーの内容は喉から手が出るほど欲しい情報に満ちています。
たとえば道徳の授業の中で、主人公の行動にどういう意味があるのかを討論するとしましょう。
それが倫理的に許されるのかどうかの判断も、AIは瞬時に行います。
いかにもそれらしい理屈をつけて、成否を語るのではないでしょうか。
授業でやるべきプロセスの検証も、そこでは剝ぎ取られてしまいます。
歴史的な事実の意味も、彼らはあらゆる立場から読み取ろうとするでしょう。
プロンプトの入れ方次第という側面もあります。
教師が好みそうな評価の高い解答を導き出すことも、生成AIには可能なのです。
悪用の危機
生成AIはさまざまな分野で、大きな便益をもたらします。
ぼく自身、プログラミングの知識もないのに、先人の作ってくれたアプリにコードを足して、自分の欲しいものにすることができました。
現在使っているこのWordPressの中で早速実用化しています。
取り込んだデータの日付の並び方をランダムにして、そこから情報を操作するだけですが、大変便利です。
プラグインの一部をChatGPTに書き直してもらったのです。
完成するまで要した時間はわずか数分間でした。
それほどの技術がなくても、何をしたいのかがはっきりわかっていれば、エクセルのマクロなども作れます。
もちろん、文章、写真、音、動画などに手をいれることも容易でしょう。
さらにAIは自分の持つデータをより的確なものに付け足すこともしてくれます。
簡単な志望理由書など、目の前で欲しい字数まで瞬時に作り上げてくれるのです。
しかしその文章に「魂」がこもっているかどうかは全く別の問題です。
いかにもそれらしい文章ではありますが、あまりにもこなれすぎていて、かえって嘘くさい側面が多々見受けられます。
やがて、そのレベルを超える日がやってくるかもしれません。
それもこれも機能の拡大と高質化、あるいはプロンプトの入れ方次第になっていくような予感がします。
当然、人間の側がかなり高度なパースペクティブをもっていなくてはなりません。
しかし代替不能な「魂」の存在がない人にとっては、両刃の剣になる危険性もあります。
ここまで、今に至るまでの見通しを簡単に示しました。
しかし話はそれほど単純ではありません。
現在進行形でAIは限界を超えつつあるのも事実なのです。
実際に使って、その怖さが身にしみてわかってきます。
利用するにつれて、特有のリスクを伴うことが実感できるのです。
その点を論てみなさいというのが、ここでの課題です。
あなたが重要だと思うリスクを2つ選び、重要だと思う理由を述べ、さらに、そのリスクにどのように対応すべきか、800字以内で述べなさい、というものです。
問題はこの2行しかありません。
難しさはまずリスクをあげることです。
これができないと、この問題に対応することはできません。
リスクの種類
生成AIのリスクについては自分なりの考えを整理しておく必要があります。
機密情報の流出、ハルネーション、誤情報の拡散、著作権、資格の侵害などがすぐに浮かんでくるはずです。
他にもあげればいくらでもあります。
しかしここに挙げたものは基本中の基本です。
大学の入試問題などと非常にうまく合致するのは、機密情報の流出、誤情報の拡散などではないでしょうか。
もちろん企業においても大問題ですが、日常的に神経を使わなくてはならないテーマです。
特に機密情報の流出は、個人情報などが一度外部に流出すると、その後の回収が難しく、なる側面をついています。
AIは細部にわたって全ての情報を記憶します。
したがってひとたび流出すると、大きな被害につながる可能性があります。
いわゆる個人情報の類いです。
もし適切に管理できなければ、本人が意図しない形で扱われるおそれがあります。
つまりこのリスクに対応するためには、入力してよい情報と入力してはいけない情報を明確に定める必要があるのです。
住所、氏名、職業、年齢、メールアドレス、パスワードなどが漏れたら取り返しがつきません。
学校や企業では利用ルールを厳密に作り、機密情報を入力しないことを徹底するしかないでしょう。
記憶された情報は必ず利用されるという前提で、ものを考える必要があります。
誤情報
生成AIは、事実ではない内容を正しい情報であるかのように回答することがあります。
これは実際に使っている人が何度も経験することです。
いかにもそれらしい回答を付け合わせて、提出するのです。
明らかに事実関係が違っていても、彼らは何も感じません。
AIには恥の概念がありません。
データの近くにあった似たような別の内容を平気な顔をして回答してきます。
言い方は悪いですが、「隠居の寝言」のような退屈な答えが続くこともあります。
そのため、AIの回答をそのまま信じてしまうと、誤った判断や行動につながる可能性があるのです。
あなたが知らない分野の回答が特に怖いですね。
ポイントは全て信用しないことです。
あくまでも補助的な資料のレベルに留めなくてはなりません。
自分で調べた別の資料と照らし合わせて、確認しなくてはいけないのです。
その際に大切なのは校閲された機関のデータです。
活字媒体の大切さを認識しておく必要があります。
誤情報の典型が「ハルネーション」ですね。
誤った情報をもっともらしく回答することです。
実際には存在しない本や論文を「存在する」と答えたり、間違った歴史上の出来事を事実のように説明することもあります。
さらに計算や統計の数字を間違えたり、人物について事実と異なる情報を作り出したりもするのです。
普通ならば、頭から疑うところですが、自然な流れの文章であったりするとそのまま信じてしまうのです。
そのまま、何かのレポートや発表などに使ったことで、訴訟問題にまで発展するケースもあります。
確認作業が絶対に必要であることは、言うまでもありません。
「OpenAI」はこの秋、自律的に作業するモデルについて、想定外の行動が確認されたため「ChatGPT」の内部展開を一時停止しました。
最前線で研究している人たちにとって、その怖ろしさがいよいよ目前に見えてきたということなのです。
人間の指示から外れて行動するようになったらどうなるのでしょうか。
開発競争はとどまるところを知りません。
このテーマについての知識をさらに深めておくべきです。
今回も最後までお付き合いいただき、ありがとうございました。
