少し前から”ChatGPT”っていうサービスが流行ってるよね…
チャットで質問して、それに対する答えをAIが答えてくれるっていうやつだよね
なんでも答えてくれるから、課題やレポートとかにも悪用できちゃうかも…
そこが問題だよね…
ChatGPTとは？
ChatGPTとは、文章生成系・自然言語処理系のAIです。アメリカのOpenAI社により開発・提供されている、チャットを通して会話形式でAIが利用できるサービスです。
ChatGPTは2023年4月18日時点で、OpenAIのアカウントを開設していれば無料で利用することができます。
※Coincheck 「ChatGPT （チャットGPT）でできることは？活用事例とできないことをまとめて解説」から引用
実際にChatGPTを使ってみる
ChatGPTの利用にはOpenAI社の公式サイト「Introducing ChatGPT」でアカウントを作成する必要があります。
ChatGPTの始め方についてはコチラのサイトで詳しく説明されています。ミノタケガジェット【無料】チャットGPTの始め方を解説！｜PCでもスマホでもOK！
下の画像にある「Send a message」部分をタップして、質問したいことを入力し、Enterを押すとすぐに返答があります。
今回は長年の問題である「宇宙人になぜ出会えないのか」ついて質問してみました。２日に分けて２度同じ質問をしてみました。
１回目
２回目
この問題は物理学者のエンリコ・フェルミ氏がランチタイムの雑談で「宇宙人はみんなどこにいるのだろうか？」という疑問を発したところが発端となっており、後に「フェルミのパラドックス」と呼ばれるようになり、今もなお科学者や民衆の間で親しまれています。
AIはフェルミのパラドックスについて触れているのでしょうか？
次の章でChatGPTが教えてくれた答えが正しいのかを簡単に確認してみましょう。
ChatGPTが答えた内容は正しい？
根拠についての事実確認
まず、事実に基づいた答えになっているのかどうかを検証してみます。
１回目の返答については…
この文章にある「私たちが知っている最も近い恒星は、太陽から約4.24光年離れたプロキシ・ケンタウリです。」とありますが、これは正しいのでしょうか？名古屋大学の記事によると…
これまでの太陽系外惑星探索で発見されたスーパーアースで一番地球に近いものは、なんと地球に最も近い恒星プロキシマ・ケンタウリをまわっています。プロキシマ・ケンタウリは、地球から4.2光年離れた赤色矮星です。(引用：名古屋大学、新・惑星50のなぜ+3)
とあり、おおよそ正しいということが分かりました。
２回目の返答については…
１回目と同様、地球から最も近い恒星はプロキシマ・ケンタウリであるという部分は正しいです。しかし、今回はプロキシマ・ケンタウリへの地球からの距離が40兆kmとなっており単位が異なります。これは光年に換算すると4.2光年となり、正しいということが分かりました。
結局、返答内容は正しいの？
今回の場合、ある一部分にフォーカスを当ててみれば正しい内容を教えてくれましたが、文章を細かく見てみると所々日本語がおかしかったり、質問の回数を繰り返すとは違う答えを提示したりします。
ですが、これは仕様のようなもので公式にもこのように見解が出されています…
ChatGPT sometimes writes plausible-sounding but incorrect or nonsensical answers. Fixing this issue is challenging, as: (1) during RL training, there’s currently no source of truth; (2) training the model to be more cautious causes it to decline questions that it can answer correctly; and (3) supervised training misleads the model because the ideal answer depends on what the model knows, rather than what the human demonstrator knows.
日本語で意訳すると、
ChatGPTは最もらしい答えを示すが、誤った答えや意味のない回答を示すこともある。このような問題を修正するのは(1)〜(3)のような理由から困難であると言える。
(1)現在は強化学習中であるため、信頼できる情報源がない
(2)AIのトレーニング方法によっては返答に慎重になりすぎて、正しい答えを返せる場合でも返答するのを諦めてしまうかもしれない。
(3)人間の知識に基づいて学習を行なっても、AIのデータベースの知識から答えが導かれるため、かえって正しい答えを出すことができなくなる。
となり、ChatGPTは未完成のようです。(日々学習しているため永遠に完成しないかも)
ChatGPTは使っていいの？大学の見解は…
2023年4月18日に山形大学から「教育における生成系AIの利用について」という声明が出されました。
レポートや卒論とかで使っていいの？
レポートや学位論文等で使用していいのかについて大学の公式サイトから該当箇所を一部抜粋すると…
本学は教育ビジョンで「深く考え実行する力の育成」を掲げており、AIの出力をレポートや学位論文等にそのままコピーして利用することは避けなければならない。課題によっては、不正行為である剽窃と見なされる場合があるので、利用した場合には、利用について明示したり、自分の考えと区別したりするなどの工夫が必要である。(引用：山形大学、教育における生成系AIの利用について)
とあり、完全に利用が禁止されているのではなく、利用した場合には利用した旨を示したり、AIの考えと自分の考えを混同せずに明確に区別したりすることが必要とのことです。
まとめ
今回は少し前から話題になっていた生成系AI「ChatGPT」について紹介しました。ChatGPT以外にも誰でもクオリティが高い絵を出力することができるAIや文章から音楽を出力できるAIなど、現在では様々なAIが活躍しています。以前から事務作業などの仕事はAIにとって代わられると言われてきましたが、これらのAIの台頭によって人間にしかできないとされたクリエイティブな仕事も危うくなってきたのかもしれません。
※この記事は以前運営していたブログの記事を再編成したものです
1つ前の記事はこちら↓
コメント