SQオンライン

4. ChatGPTの回答に怒っていませんか？うまく使いこなそう

■今までのお話を聞いていると、AIを使うということは人間とは一体どういうものなのかを逆に考えさせられる、つまり非常にアナログな側面が実はキーポイントになっているように感じます。

ところで、今日のインタビューでこれまでお話しした内容を、みなさんは一言一句丸ごと覚えていますか？
（全員無言・・・。）
そうですよね、覚えてないですよね。だから今ここにボイスレコーダーがあるわけですよね(笑)。学習したデータをそのままの形で丸覚えしているわけではないということを何度も話しましたが、私たちもまったく同じです。一言一句丸ごと記憶してはいないが、今日はこういう話をしたということは残っています。人間の脳は情報量を圧縮しながら効率よく学習をする、そして同じようなことが大規模言語モデル（LLM）でも起こっているのです。

■丸ごと覚えているわけではないという点について、非常に納得しました。私たちは今日のこのインタビューのことを参加者がそれぞれの頭の中で覚えていますが、その記憶のされ方は「人それぞれ」だと思います。同じことを聞いても受け取り方が人それぞれになるということです。過去の経験や考え方が受け取り方に影響をしている気がします。AIはどうなのでしょうか？

そこは先ほど話題に出たAIが変なことを言わないようにするという部分での強化学習RLHF（Reinforcement Learning from Human Feedback）の部分の話になると思います。
ChatGPTが出力したA、B、C、Dというものがあるとして、それを人間が好ましい順に並べ替えます。そして別のAIに人間ってこういう出力すると嬉しいよねっていうのを学習させるわけです。
一方で学習データを受け取る際には、AIの価値観みたいなものがあって、それで解釈が変わるってことは基本的にはないと思います。つまり額面通りその情報を受け取るということです。
最初の大規模に自己教師あり学習で学習させるという場面では、素直に色んな学習データを額面通りに受け取って賢くなった上で、価値観をどういう方向づけにするかを確立するという流れです。

■人間的であり、でも人間とは違う。そういう意味で、ChatGPTに上手に回答をしてもらうためのコツ、うまく使いこなすコツはありますか？

いわゆるプロンプトエンジニアリングみたいなところで、AIに対して分かりやすく伝えるという話で言うと、よく行われるのはロールプレイさせることです。
例えば、あなたは優秀なプログラマーですとロールプレイさせるとプログラミングがうまくなったりします。また、相手を設定してあげると、それに合わせてくれます。例えば、小学3年生に対して説明してくださいとすると、わかりやすいように説明してくれたりします。
別の角度から言うと、感謝を伝えると良いと言われています。これを言うとAIにも感情がある！と思われがちですがそうではありません。感謝を伝えると良いというのは人間同士のプロトコルですとか、対話インタフェースにおける人間同士のお決まり事ですよね。それをAIが使うことができるということを意味しているのです。
大量のテキストデータを元に学習しているわけですが、そのテキストデータを作ったのは誰か。それは人間が作り出したものだということです。世の中にストアされているテキストデータというのは、人間の振る舞いを反映していると言えます。そしてそのテキストデータを元にChatGPTは学習している。したがって、テキストデータを介して人間の振る舞いをChatGPTは反映していると考えることができます。
つまり、人間は「ありがとうございます」と言う傾向があるよねということをChatGPTが人間の振る舞いとして反映している。そう考えると人間だと思って触れ合うのが使いこなすコツだと思います。

■そういえば、先日ChatGPTを使ってみた際に、日本規格協会の住所を教えてと聞いたら、わからないですという回答をされて、検索すれば出てくるようなことが何故わからないのかと責めるような返事してしまいました。

よくある話ですね。例えば、日本史に関する質問をしてみたらChatGPTがでたらめなことを言い始めたのでこんなものは使えないと怒るということなどがあるのですが、私たちも、急に日本史の質問をされて何も調べずに完璧答えられますか？ということと同じです。ChatGPTの場合、知らないですと言わずに、それっぽいことを言ってしまうことがありそれは問題なのですが、きちんと情報（つまり、カンペ）を渡してあげれば答えられます。私たちも分からないことは調べますよね。（サービスラインの中にはブラウジング機能があるものもありますが、）ChatGPTは調べないで何でも正確に回答せよというのは酷な話なのです。

もしかすると、100年後とは言わないまでも、数十年後にはAIネイティブのような世代が、「あの人、AIが間違えたからって、なんで怒るのかな？」なんて言う時代が来るのかもしれないですよね。やはりChatGPTに接していないと、いわゆるブラウジングの検索と同一だという錯覚が生じてしまうのかもしれません。

ところで、先ほど日本規格協会の住所が分かりませんと言われたとのことでしたが、例えば日本規格協会の住所や問い合わせ先などが書かれているサイトをコピペして、それをChatGPT与えてから、住所一覧を作ってと指示したらよい感じに生成するのではないかと思います。

つづきはこちら
5.具体的に私たちの仕事にどうやって使うか考えてみよう