【スポンサーリンク】

なるべくChatGPTの不正確な回答に気づくコツは?

なるべくChatGPTの不正確な回答に気づくコツは?

ChatGPTの回答との付き合い方は、インターネット情報と一緒です。
つねに誤情報の可能性を念頭において、吟味する必要があります。

とくに、ChatGPTは、暗黙のうちに「答えがある」と考えて回答するので、未知のことへの回答は推測が含まれています。

なるべくChatGPTの不正確な回答に気づくコツは?

技術は真新しいけど、リテラシーの基本は一緒だね。

\記事が役に立ったらシェアしてね/

この記事では、わかりやすさを重視して説明しています(やや厳密さには欠ける表現もあります)。イメージが掴めたら、より専門的な解説へと進んでください。

【スポンサーリンク】

1. 本当に答えがある質問なの?(生成:ジェネレーティブ)

ChatGPTに質問するときには、注意しなくてはいけない性質があります。
それは、ChatGPTは「質問者の言うことを否定しない」ということ。
あるいは、「質問文を下敷きとして、回答を生成する」とも言えます。

「〜は、〜ですか?」という質問すると、ChatGPTは「少なくともその問いには答えがある(既知の事実)」ということを暗黙の前提として、回答を生成します。

しかし、実際には答えがない場合には、ChatGPT は答えを「生成」、つまり「でっち上げ」てしまいます。

本当に答えがある質問なの?(生成:ジェネレーティブ)

ただ、明らかに一般的な事実と反するなら、ちゃんと否定もしてきます。

2. 答えがわかっていない前提で聞く(プロンプト・エンジニアリング)

ただし、聞き方を工夫すると、「でっち上げ」をしにくくなります。

それは、「~について、分かっていることと分かっていないことを教えて下さい」や「~は、どれぐらいだったと推測できますか?」などと聞くことです。

このように聞くと、はっきりとは わからない部分、推測の根拠なども含めて回答してくれます。

3. 裏取りの注意点(リテラシー)

ChatGPTの答えに疑問があったときには、他の情報源で裏付けを得る必要があります。

ただし、インターネット上などで目にしやすい情報は、二次情報がほとんどだということには要注意。
いくつかの情報が一致していたとしても、元をたどると実は同じ1つの情報源ということが往々にしてあるからです。

ChatGPTは 統計的(観測されたデータで多いもの)に回答を生成する仕組みですが、正しい答えは多数決で決まるわけではありません。

信憑性がある情報とは、一次資料を念入りに吟味し、批判的な検討を経た結果です。
平たくいえば、専門家が書いた本。

ただし、これは時間や手間がかかってしまうので、一般的には「ウソの可能性」も念頭において、ChatGPTと付き合うことが大事、ということになります。

裏取りの注意点(リテラシー)

結局は、「インターネットの情報」との付き合い方と同じですね。

こちらもどうぞ。
生成AIは「正解のない問題」を聞く道具(検索との違い)
生成AIは「正解のない問題」を聞く道具(検索との違い)
代表的な生成AIとしては、ChatGPT、Copilot、Geminiなどがあります。すごく当たり前ですが、生成AIは「生成」が必要な作業に役立ちます。生成AIを「調べもの」に使うと、「遅くて」「的外れ」な回答が多いと感じるかもしれません。しかし、対話を伝え続けると「文脈」が共有され、徐々に意図に沿った回答が得られるようになります。生成AIは、「正解のない問題」が得意です。反対に「正解がある問題」を調べるには従来の検索エンジンの方が速い面も。「生成AI」というと、「なんでも答...

ChatGPT と Wikipedia と Siri(検索スタイルはどうなる?)
ChatGPT と Wikipedia と Siri(検索スタイルはどうなる?)
ChatGPT や Bard などの チャット生成AI(会話AI) が話題です。どんな質問にもすぐに回答する AI の登場は、情報検索にとってある種の「革命」的な出来事です。しかし、便利な反面、その取り扱いについて懸念点も指摘されています。ただ、これまで情報検索の歴史を振り返って見てみると、すでに同様のことを経験していることにも気づきます。完全に信頼できる情報源などない(インターネット黎明期のWikipedia)会話AI の場合、その情報の「信憑性」が問題になります。AI の...

【人工知能】ChatGPTに質問してみたら、けっこう間違えもあった(アカウント登録の仕方)
【人工知能】ChatGPTに質問してみたら、けっこう間違えもあった(アカウント登録の仕方)
話題になっている ChatGPT(chat.openai.com/chat) のアカウントを作成して、試してみました。まるで人間が答えたような回答を、すぐに出すのでびっくりしました。しかし、いろんな回答をよく読んでみると「滋賀を四国地方」と言ってみたり、あからさまな間違いも少なくありません。また、こちらから送った文章に機密事項が含まれている場合でも、ChatGPTはそれを学習して、別の人に回答してしまう可能性があります。いよいよ「検索の次の時代」が見えてきました。ただし、結局...

「プログラミング教育より国語力」説は生成AIの台頭で正しくなった【プロンプト エンジニアリング】
「プログラミング教育より国語力」説は生成AIの台頭で正しくなった【プロンプト エンジニアリング】
対話型AI がプログラムを生成できるようになった現在、「プログラミング教育」をどう考えたらいいのでしょう?1つは、プログラミング知識自体は、自分の思い通りのプログラムを作るためには必要ということです。ただし、「読み書き計算」のような誰でも必要な「基礎的なスキル」にはならず、これまで通り「専門的なスキル」のままになるかもしれません(大工職人のような)。もう1つは、プログラミングの技術よりも、「問いを立てる力」の方が重視されていくように思います。そもそも「問い」に気づかなければ、...
QRコードを読み込むと、関連記事を確認できます。

なるべくChatGPTの不正確な回答に気づくコツは?
【スポンサーリンク】
タイトルとURLをコピーしました