【スポンサーリンク】

【注意】アルゴリズムの心のない「おすすめ」にご用心(TikTokが自殺願望を強めてしまった事件)

【注意】アルゴリズムの心のない「おすすめ」にご用心(TikTokが自殺願望を強めてしまった事件)
  • 家庭内で子どもがTikTokなどのショート動画を見ている場合、ちょっと内容にも注意を払っておいてください。
  • 米国でTikTokが、16歳の少年に自殺を促すような動画を繰り返し表示し、実際に命を絶ってしまった事件がありました。
  • しかも、少年は自らそういう動画を探していたわけではなく、不完全なアルゴリズムによって否定的感情を煽る動画が過剰に表示された可能性があるのです。
【注意】アルゴリズムの心のない「おすすめ」にご用心(TikTokが自殺願望を強めてしまった事件)

子どものスマホの中という、ある意味「密室」でこのような情報が埋もれてしまうというのは、とても怖いことですね。

【注意】アルゴリズムの心のない「おすすめ」にご用心(TikTokが自殺願望を強めてしまった事件)

TikTokはとくに管理体制が不明瞭な感じがするけど、InstagramのリールとかYouTubeのショート動画とかでも、だいぶ偏った情報が出てくるよね。
思春期の子どもたちが、そういう情報に強く影響を受けてしまうのは怖いね。

特典ダウンロード
【ちいラボ読者特典】印刷してすぐ使える!
\記事が役に立ったらシェアしてね/
【スポンサーリンク】

1. 自殺を促す動画が大量に表示される

アメリカで、16歳の少年が TikTokのアルゴリズムによって自殺を促すような動画を繰り返し見せられ、自ら命を絶ってしまった、という痛ましい事件が報じられました。

記事1による事件の概要

  1. 2022年2月に自殺したチェイス・ナスカ君のスマホを母親が調べたところ、TikTokに自傷行為や自殺願望に関する動画が大量に表示されていた。
  2. 彼のTikTokアカウントに対して、アルゴリズムが否定的なコンテンツばかりを送り続けていたことがわかった。
  3. チェイス君の両親は、TikTokのアルゴリズムが脆弱な10代の子供たちに危険だと、同社を相手取り訴訟を起こした。
表示されていた不適切な動画の例
  • 「痛みを取り除いてくれ。死は贈り物だ」と言っている
  • 「散歩に行ってきた」というキャプションと共に電車が迫ってくる
  • 「もう耐えられない。頭を銃で吹き飛ばしてやる」と男性の声が言い、女性の声が「かっこいい」と答えている

2. ネガティブな動画を増やすアルゴリズム

ネガティブな動画を増やすアルゴリズム

でも、もともと少年が悩んでいたんじゃないの?

SNSでも、関心のある情報に偏ったりする「エコーチェンバー現象」って問題になっているよね。

実はそれだけではないのです。
この事件が恐ろしいのは、チェイス君が自ら積極的に「自殺願望」に関する動画を検索していたわけではなかった、という点です。

彼がよく検索してたのは「バットマン」「ウエイトリフティング」など。
それに対して、TikTokは次第に「鬱」「絶望」「死」をテーマとする動画を「おすすめ」で表示するようになっていったそうです。

ネガティブな動画を増やすアルゴリズム

たとえ不快な動画でも表示時間が長かったりすると、アルゴリズムは勝手に「関心がある」と判定してしまいがちです。

このような基準なので、視聴数目的の動画投稿者側も、あえてセンセーショナルな動画を作る傾向があります。

TikTokの元従業員チャールズ・バー氏(TikTokドイツ支社の元広告営業マネージャー)によると、自分のTikTokフィードでも次第にネガティブなものになってしまい、ワークショップで人に見せるために別のアカウントを作り直した経験があったそうです。

2020年の時点で、TikTokのアルゴリズムがZ世代のユーザーに自殺を美化するような動画を大量に送っていて、どのようなアルゴリズムによって動作しているのかが不明瞭な点が問題視されていたようです。

ネガティブな動画を増やすアルゴリズム

「おすすめ」アルゴリズムは、感情的に反応しやすいものをより多く表示しようとします。
アプリ設計者がきちんと調整しないと、「不適切な感情的な情報」を過度に露出してしまう危険性があります。

こちらもどうぞ。
機械学習のAIは「人間のような感情」を持たない
機械学習のAIは「人間のような感情」を持たない
考えてみれば、生成AIは悲しい存在である。人は、生物だから「生きる本能」によって駆動している。だから、自己のために動いている。一方、「機械学習」によるAIは、「評価」によって駆動している。これは、他者によるものである。 この違いは根本的で、だから AIには、「人間のような感情」は発生しないだろう。AIが「感情」のような「複雑な反応」を持つ可能性はありますが、人間とは根本的に異なるものになると思います。「生命」につながっていないからです。例えていえば、炭素以外の元素による「有機...

LINE VOOMに面白い動画が投稿されているのは、何のため?【収益化の仕組み】
LINE VOOMに面白い動画が投稿されているのは、何のため?【収益化の仕組み】
LINE VOOMを見ると、面白い動画がたくさん投稿されているけど、これって、みんな何のために投稿しているの?普通の近況報告みたいな投稿とは、だいぶ雰囲気が違うよね。多くのアカウントが、LINE VOOMに「面白い動画」を投稿する背景は、いくつも考えられますが、その1つに、「収益化」の仕組みがあります。ほかには……?集客のため知名度アップのため趣味(自己実現)のため などLINE VOOM収益化の条件LINE VOOMでは、・フォロワーが500人以上で、・投稿した動画の直近1...

シンプルな携帯電話を求める理由(Light Phone IIとデジタルデトックス)
シンプルな携帯電話を求める理由(Light Phone IIとデジタルデトックス)
米国の若者の間で、シンプルな機能に限定された携帯電話「Light Phone II」が話題になりました。過剰な情報に晒される「スマホ疲れ」から、バランスを取る必要性を直感しているのかもしれません。日本でも、若者だけでなくシニア世代にもスマホが普及した今、世代関係なくスマホのバランスよい使い方を考える必要があります。若い世代がシンプルな携帯電話を求める理由最近、若い世代の間で、シンプルな機能の携帯電話が注目されています。これは、スマホ中毒からの脱却やプライバシーの保護、ノスタル...

今さらだけど やっぱりTikTokの発信力ってすごい【TikTok売れと偶発性】
今さらだけど やっぱりTikTokの発信力ってすごい【TikTok売れと偶発性】
「TikTok書評」をめぐる賛否のニュースを見て、「TikTok売れ」という言葉を知りました。「ショートムービーでの紹介で、本が売れる現象」についての評価はさておき、私は、そういう現象があること自体知らなかったので、勉強になりました。「書籍PR」と「書評」は、似ているようで微妙に違いますもんね。試しにTikTokアカウントを作って、ショート動画を投稿してみたら、特にフォローされていないのに、かなり人目に触れました。TikTok売れ「TikTok売れ」は、短い動画の投稿がきっか...

(補足)

  1. TikTok’s Algorithm Keeps Pushing Suicide to Vulnerable Teens – Bloomberg
QRコードを読み込むと、関連記事を確認できます。

【注意】アルゴリズムの心のない「おすすめ」にご用心(TikTokが自殺願望を強めてしまった事件)
【スポンサーリンク】
タイトルとURLをコピーしました