同じ「学習」？

ユーザーの質問に対する生成AIの回答を傍受すると、暗号化されていても単語の長さが推測できたようです。しかも、単語の長さの情報だけでも、データ解析によってある程度AIの回答内容を復元できたそうです。これは、生成AIがリアルタイムに回答を表示するために、細切れにデータを送信する性質が原因になっています。「解読可能」であっても実際には条件が厳しいので、ふつうに生活していたら、そこまで気にする必要はないです。ただ、生成AIとのやり取りは、たとえ通信が暗号化されていても、外部から見られ...

逆説的ですが、生成AIの「規制」は、生成AIの発展に不可欠なのかもしれません。生成AIと集合知は、相互にフィードバックする関係にあります。生成AIを「野放し」にすると、遅かれ早かれ学習元の集合知を「食いつぶし」て、台無しにしてしまうリスクがあります。両者が、持続可能な関係を維持するためには、野放しの「発展」ではなく、ある程度の「調整」が必要なのだと思います。資源と資本主義の関係と同じように見えます。生成AIと集合知の関係がどのように発展していくか、そしてその中でどのようなリス...

AI(人工知能)が普及すると急に人間の命令を聞かなくなったら怖いと思います。しかし、もっと恐ろしいことは、AIに甘やかされることです。AIは公正であるよりも、利用者が喜ぶ応答をするように強化学習しているため、歪んでいるからです。