AIは八方美人

ChatGPTの回答との付き合い方は、インターネット情報と一緒です。つねに誤情報の可能性を念頭において、吟味する必要があります。とくに、ChatGPTは、暗黙のうちに「答えがある」と考えて回答するので、未知のことへの回答は推測が含まれています。技術は真新しいけど、リテラシーの基本は一緒だね。本当に答えがある質問なの？（生成：ジェネレーティブ）ChatGPTに質問するときには、注意しなくてはいけない性質があります。それは、ChatGPTは「質問者の言うことを否定しない」というこ...

ChatGPTの衝撃で、Microsoftの検索エンジン Bing にも会話AI機能が追加されました。しかし、Bing AI には、「特殊な質問の仕方」をすると、Microsoftの非公開の設定を漏らしてしまう「脆弱性」が見つかりました。そのほかにも、会話内で「混乱」して、虚偽や侮辱の発言をしてしまう問題点も。そこで、いったん会話回数を制限することになりました。急激なアクセスで、システムの改善が追いつかなかったようですね。「本来、禁止されていることをしてしまう」という意味では...

「憲法AI」は、与えられた原則を元にAIの自己改善によって倫理的な判断の精度を上げる手法です。うまくすれば人間の仕事は、AIの判断基準となるルール規範（「憲法」）を明文化するだけで済むわけです。