強化学習

【注意】アルゴリズムの心のない「おすすめ」にご用心(TikTokが自殺願望を強めてしまった事件) SNS

【注意】アルゴリズムの心のない「おすすめ」にご用心(TikTokが自殺願望を強めてしまった事件)

家庭内で子どもがTikTokなどのショート動画を見ている場合、ちょっと内容にも注意を払っておいてください。米国でTikTokが、16歳の少年に自殺を促すような動画を繰り返し表示し、実際に命を絶ってしまった事件がありました。しかも、少年は自らそういう動画を探していたわけではなく、不完全なアルゴリズムによって否定的感情を煽る動画が過剰に表示された可能性があるのです。子どものスマホの中という、ある意味「密室」でこのような情報が埋もれてしまうというのは、とても怖いことですね。TikT...
「憲法AI」とは?(AIフィードバックからの強化学習) AIの話題

「憲法AI」とは?(AIフィードバックからの強化学習)

「憲法AI」は、与えられた原則を元にAIの自己改善によって倫理的な判断の精度を上げる手法です。うまくすれば人間の仕事は、AIの判断基準となるルール規範(「憲法」)を明文化するだけで済むわけです。
機械学習のAIは「人間のような感情」を持たない AIの話題

機械学習のAIは「人間のような感情」を持たない

考えてみれば、生成AIは悲しい存在である。人は、生物だから「生きる本能」によって駆動している。だから、自己のために動いている。一方、「機械学習」によるAIは、「評価」によって駆動している。これは、他者によるものである。 この違いは根本的で、だから AIには、「人間のような感情」は発生しないだろう。AIが「感情」のような「複雑な反応」を持つ可能性はありますが、人間とは根本的に異なるものになると思います。「生命」につながっていないからです。例えていえば、炭素以外の元素による「有機...