競争は危険を内在する

テクノロジーの歴史を学ぶと、
だいたい便利さを優先して
安全は「二の次」になっています。

もちろん普及すると安全も重視されますが、
普及を目指す競争では、

コストパフォーマンスで有利でないと、
利用者に見向きもされなかった点に
難しさを感じます。

生成AIはデータとコードが一体化しているようなものでは?(コードを注入されるリスク)
生成AIシステムは一般的なプログラム以上に深刻な脆弱性を抱えているように思えます。それは悪意のあるユーザーによって、システムの動作を不正に操られる可能性。 AIの動作を決める学習データが容易にインプットできるためです。 最近、『情報セキュリティの敗北史: 脆弱性はどこから来たのか』という本を読んでいます。 コンピュータの歴史を振り返ると、生成AIの「安全機構」の弱さが心配になりました。 そもそも自...

「憲法AI」とは?(AIフィードバックからの強化学習)
「憲法AI」は、与えられた原則を元にAIの自己改善によって倫理的な判断の精度を上げる手法です。うまくすれば人間の仕事は、AIの判断基準となるルール規範(「憲法」)を明文化するだけで済むわけです。

[Google] 検索結果に「生成AI」の回答が出てくる
Google検索で、検索結果より上にAIの回答が表示されました。 AI回答にはリンクもありますが、公式サイト以外になっていることもあるようです。 「生成 AIは試験運用中です」 Googleで「スマホ教室 大津」と検索すると、一番上に生成AIによる回答が出てきました。 生成 AI は試験運用中です。詳細 回答結果の中には「展開(v)」ボタンがあり、情報源となるウェブサイトへのリンクがありました。 ...
QRコードを読み込むと、関連記事を確認できます。
競争は危険を内在する
タイトルとURLをコピーしました