コード

AIの話題

生成AIはデータとコードが一体化しているようなものでは?(コードを注入されるリスク)

生成AIシステムは一般的なプログラム以上に深刻な脆弱性を抱えているように思えます。それは悪意のあるユーザーによって、システムの動作を不正に操られる可能性。 AIの動作を決める学習データが容易にインプットできるためです。 最近、『情報セキュリティの敗北史: 脆弱性はどこから来たのか』という本を読んでいます。 コンピュータの歴史を振り返ると、生成AIの「安全機構」の弱さが心配になりました。 そもそも自...