起動スクリプト

AIの話題

対話型AIが「暴走する」とは?【プロンプト・インジェクション】

ChatGPTの衝撃で、Microsoftの検索エンジン Bing にも会話AI機能が追加されました。 しかし、Bing AI には、「特殊な質問の仕方」をすると、Microsoftの非公開の設定を漏らしてしまう「脆弱性」が見つかりました。 そのほかにも、会話内で「混乱」して、虚偽や侮辱の発言をしてしまう問題点も。そこで、いったん会話回数を制限することになりました。 急激なアクセスで、システムの改...