この記事では、生成AI (Chat GPT) の誤回答を紹介していきます。
生成AIは、単語や文章の次に来る単語や文章を推測し、「統計的にそれらしい応答」を生成するだけなので、結構な頻度で間違いは発生します。特に無料版の Chat GPT では顕著です。
教科別に誤回答をまとめたので、児童生徒に生成AIの間違いを紹介したい時などに、資料としてご活用いただければ幸いです。
なお、文部科学省のガイドラインは別の記事で解説しています。ガイドラインの原文（PDF）もダウンロードできます。
生成AI（Chat GPT）の間違い事例集
Chat GPT の間違い 国語
太宰治の『走れメロス』について Chat GPT に解説させました。
小説ではメロスは友人のセリヌンティウスを人質に差し出しますが、Chat GPT の解説ではメロスが人質になってしまっています。
メロスとセリヌンティウスの関係が完全に逆ですよね。友人のために自ら人質となったのはセリヌンティウスです。
Chat GPT の間違い 数学
意外かもしれませんが、生成AIは数学が苦手です。中学校２年生レベルの連立方程式の問題を出題してみます。
見事に間違えてくれました。ふつうに考えて、大人の方が中学生より入館料が安いのはおかしいです。答えは大人800円, 中学生500円です。
ちなみにこの問題、Chat GPT より優秀であるはずの Bing Chat もバッチリ間違えました。
大人400円、中学生800円って…だからなんで大人の方が入館料安いの…。
Chat GPT の間違い 社会
Chat GPT に日露戦争についてマインドマップを作成するよう指示しました。すると、講和条約であるはずのポーツマス条約が開戦理由に含まれてしまいました。
今度は、ドーナツ化現象について説明を求めました。
ドーナツ化現象は、都心の居住人口が減少し、郊外の居住人口が増加する反都市化現象のことなので、Chat GPT の回答は全くもって的を得ていません。
Chat GPT の間違い 理科
日本の気候区分を Chat GPT に尋ねました。琵琶湖が亜寒帯になっていたり、本来は亜寒帯であるはずの北海道が寒冷地として分類されてしまっています。
九州が亜熱帯に分類されていますが、これは議論がなされているところでしょうか。たしかに九州の亜熱帯化は指摘されています。
Chat GPT の間違い 英語
英文の添削と解説を Chat GPT に指示しました。なお、英文には誤りが３箇所あります（マーカー部分）
添削に出した英文
I don’t like to go to festivals in summer. First, it’s not comfortable. Usually, in Japan, it is hot and humid while summer. Second, I don’t like crowed places. I want play with my friends at my home.
Chat GPT の解説
Chat GPT は、間違えている箇所の指摘はできましたが、解説は間違えています。
- While + 主語 + 動詞 の形、During + 名詞 の形、です。Chat GPT の解説は間違いではありませんが、その説明で理解できる人は少ないです。
- スペルミスはその通りです。ですが、後半部分の冠詞については、何を言っているのかわかりません。
- want の後には to + 動詞の原形 が必要です。
このように、生成AIの回答は完璧ではありません。ぜひご自分でも試してみてください。
生成AIに騙されない力をつけるには
生成AIの間違いに騙されない力をつけるには、情報リテラシーが欠かせません。特に重要なファクトチェック（事実確認）の指導については、別の記事で解説しています。
生成AIを使いこなす
ここまで生成AIの誤回答を紹介してきましたが、生成AIは使い方を身につければ忙しい教員の大きな味方になってくれるのは確かです。私自身、Chat GPTやBing Chatを多用しています。
