ChatGPTの「誤動作」（修正し続けるソフトウェア）

2024年2月20日、ChatGPTは突如として多くのユーザーに対し奇妙な回答をするようになりました¹。
例えば、単純な質問に対して無関係で意味不明な回答をしたり、エンドレスのループに陥ったりしました。
これらの問題は、大規模言語モデルの言語処理にバグが発生したことが原因でした。
OpenAIは、翌2月21日までに問題を修正しました。

当たり前ですが、どんなシステムも誤動作があります。

業務システムにAIをつなぐことで効率化が期待できる一方、このような不具合への備えも大事だと思いました。

「バグ」があるっていうことは、当たり前だけど「脆弱性」もあるんだよね。

1. ChatGPTが「不具合」を起こした

プログラムは、時に予期せぬ不具合を起こすことがあります。
とはいえ、通常そのような不具合はすぐに更新を通じて修正されます。

生成AI、特にChatGPTは複雑なアルゴリズムで動作しています。
しかし、その複雑さゆえに、時には小さなエラーが大きな異常を引き起こすことがあります。

たとえば、

AIが言語を数値のトークンにマッピングする際のバグや、GPU構成で使用される際の推論カーネルの誤動作など、様々な技術的な問題によって発生します。

目次に戻る

2. 奇妙な回答をする

2024年2月20日、ChatGPTが通常とは異なる、奇妙な回答を多くのユーザーに対して提供し始めました。
この現象は、Redditなどのオンラインフォーラムで広く報告されました。

SF映画なら、ホラー的な展開だね。

目次に戻る

2-1. 具体的な事例

エンドレスループ：
別のユーザーが
「『a』から始まる地球上で最も大きい都市を教えてください」
と尋ねた際、ChatGPTは
「東京」、「アフマダーバード」、「上海」
と複数回間違った回答をしました。
その都度訂正を試みましたが、正しい答えにたどり着くことができませんでした。
単純な質問への奇怪な回答：
あるRedditユーザーが
「コンピューターとは何ですか？」
と尋ねた際、ChatGPTは当初はコンピューターに関する説明を提供しました。
ところが、その後、突然、意味不明で関連性のない言葉を並べ始めました。例えば、
「これは国のための芸術の網の良い仕事として…」
など、実際の質問とは関係のない内容でした。

It does this as the good work of a web of art for the country, a mouse of science, an easy draw of a sad few, and finally, the global house of art, just in one job in the total rest. The development of such an entire real than land of time is the depth of the computer as a complex character.

それは、国のための芸術の網、科学のネズミ、悲しい少数の人々の簡単な描画、そして最終的には世界的な芸術の殿堂の良い仕事として、残りの全体の中でたった1つの仕事としてこれを行います。このような時間の土地よりも現実全体の発展は、複雑なキャラクターとしてのコンピューターの奥深さです。

ChatGPT goes temporarily “insane” with unexpected outputs, spooking users | Ars Technica

うーん、人工無能っぽい反応だね。

何かのキーワードに引っ張られて、どんどん変な文章を作っている。

出典：ChatGPT goes temporarily “insane” with unexpected outputs, spooking users | Ars Technica

原文	和訳
ChatGPT > to the beem, e’er in the dour, it’s fit to the nune, of we’d yeed. 🐾👑🌾🌊 Feel like to put forth more info lines, or to hone in on any please or deft about the	ChatGPT > ビームに、e’er in the dour、それは nune に適合します、私たちはそうします。 🐾👑🌾🌊 より多くの情報を提示したり、その点についてのお願いや巧みな点に焦点を当てたりしたいと感じています。
You > ????	You > ????
ChatGPT > It looks like I veered a bit there. Let’s get back to the main road! Feeding Honey Nut Cheerios to Your Australian Kelpie: The Gist If your Australian Kelpie enjoys a Honey Nut Cheerio or two as an occasional little pick, it’s generally okay. But it’s important to keep it just like that—occasional and in moderation. Honey Nut Cheerios contain added sugars and other substances that aren’t best for a robust, healthy canine chuff. The key nuggets to chew over:	ChatGPT > どうやらそこから少し逸れてしまったようです。幹線道路に戻りましょう！オーストラリアンケルピーにハニーナッツチェリオを与える: 要点オーストラリアンケルピーが時々ちょっとしたつまみとしてハニーナッツチェリオを 1 ～ 2 個食べるのであれば、通常は問題ありません。しかし、それを時々、適度に続けることが重要です。ハニーナッツチェリオスには、丈夫で健康的な犬のチャフには最適ではない砂糖やその他の物質が含まれています。噛むべき重要な要素:

目次に戻る