会話AI

対話型AI(GPT-4)が人間のフリをして騙す?【チューリングテストを突破する機械】 AIの話題

対話型AI(GPT-4)が人間のフリをして騙す?【チューリングテストを突破する機械】

いよいよ SF のような世界になってきましたね。対話型AI が人間のフリをして「騙した」事例が出てきたようです。無関係の人間を騙して、「私はロボットではありません」ボタンを押させようという回答をしてきたのです。人工のロボットだから「誠実で正しい」ではありません。「教師」となった人間たちの性質がそのまま引き継がれてしまっているのですね。AIが無関係の人間を利用する今回の事例で AIが騙したのは、直接の質問者に対してではありません。詳しく見てみましょう。OpenAI が 自然言語...
会話AIの性格付け(Bing の会話スタイル) AIの話題

会話AIの性格付け(Bing の会話スタイル)

Bingアプリでチャット検索をしようとしたら、「会話スタイル」の選択画面が出てきました。「厳密」の方が、全体的に簡潔なものの、やや専門用語が多い気がしました。Bingの3つの会話スタイル創造性・正確さの重み付けを変えているようです。Bingの会話のスタイル独創性バランス厳密実際に「聞き比べ」てみたそれぞれのスタイルに同じ質問をして、回答を比較してみました。「創造性」というのは、はっきりとはわかりませんでしたが、全体的に親しみやすい言葉遣いな気がします。反対に、「厳密」スタイル...
BingでチャットAIを使うには?【新しい Bing にアクセス】 AIの話題

BingでチャットAIを使うには?【新しい Bing にアクセス】

インターネット検索の Bing(www.bing.com/) にも、Chat GPTによるチャット機能が追加されました。ただし、チャット機能を使うには、パソコンならEdgeから、スマホならBingアプリからアクセスする必要があります。また、Bingアプリからチャット検索するには、「順番待ちリストに参加」する必要がありました(2023年2月19日時点)。2日ほどで Microsoftアカウントにメールが届き、チャット機能が使えるようになりました。チャット検索は、「お硬い」公式サ...
対話型AIが「暴走する」とは?【プロンプト・インジェクション】 AIの話題

対話型AIが「暴走する」とは?【プロンプト・インジェクション】

ChatGPTの衝撃で、Microsoftの検索エンジン Bing にも会話AI機能が追加されました。しかし、Bing AI には、「特殊な質問の仕方」をすると、Microsoftの非公開の設定を漏らしてしまう「脆弱性」が見つかりました。そのほかにも、会話内で「混乱」して、虚偽や侮辱の発言をしてしまう問題点も。そこで、いったん会話回数を制限することになりました。急激なアクセスで、システムの改善が追いつかなかったようですね。「本来、禁止されていることをしてしまう」という意味では...
ChatGPT と Wikipedia と Siri(検索スタイルはどうなる?) AIの話題

ChatGPT と Wikipedia と Siri(検索スタイルはどうなる?)

ChatGPT や Bard などの チャット生成AI(会話AI) が話題です。どんな質問にもすぐに回答する AI の登場は、情報検索にとってある種の「革命」的な出来事です。しかし、便利な反面、その取り扱いについて懸念点も指摘されています。ただ、これまで情報検索の歴史を振り返って見てみると、すでに同様のことを経験していることにも気づきます。完全に信頼できる情報源などない(インターネット黎明期のWikipedia)会話AI の場合、その情報の「信憑性」が問題になります。AI の...