競争は危険を内在する

生成AIシステムは一般的なプログラム以上に深刻な脆弱性を抱えているように思えます。それは悪意のあるユーザーによって、システムの動作を不正に操られる可能性。 AIの動作を決める学習データが容易にインプットできるためです。 最近、『情報セキュリティの敗北史: 脆弱性はどこから来たのか』という本を読んでいます。 コンピュータの歴史を振り返ると、生成AIの「安全機構」の弱さが心配になりました。 そもそも自然言語って、入力チェックが可能なのかな？ 原理的に。 ノイマン型コンピュータの脆...

「憲法AI」は、与えられた原則を元にAIの自己改善によって倫理的な判断の精度を上げる手法です。うまくすれば人間の仕事は、AIの判断基準となるルール規範（「憲法」）を明文化するだけで済むわけです。

Google検索で、検索結果より上にAIの回答が表示されました。 AI回答にはリンクもありますが、公式サイト以外になっていることもあるようです。 「生成 AIは試験運用中です」 Googleで「スマホ教室 大津」と検索すると、一番上に生成AIによる回答が出てきました。 生成 AI は試験運用中です。詳細 回答結果の中には「展開（v）」ボタンがあり、情報源となるウェブサイトへのリンクがありました。 ただし、教室の説明をみると、「ジモティー」や「Facebook」。今のところ、公...