記憶

AIの話題

Transformerモデルと「自然言語」(GPTが「スマホの次」だった)

Transformerがもっと強力になったら、個々のアプリもいらなくなるかも。 たとえば、時間を聞いて、その場で時計盤の画像を生成して見せくれるなら、極端な話 時計も時計アプリもいらなくなっちゃう。 すでに、そういう次元じゃないかもしれないけど。 あとは、電気代の問題ですね。 Transformerモデルがすごいのは、「自己注意機構」でテキスト内の単語間関係を分析できるようになったこと。旧来のモデ...
AIの話題

【雑感】文脈と記憶から生成されるもの「勇者ヒンメルならそうしたってことだよ」(Generative Pre-trained)

ふと、フリーレンの「勇者ヒンメルならそうしたってことだよ」という台詞が、生成AIの仕組みにちょっと似ているな、と思いました。 AIの特徴の一つは、無限に学習した記憶から取り出すことです。 これは、誰と判別できずとも、過去の誰かの行動パターンを模倣していることに近いです。 たまたまかもしれないけど、フリーレンも生成AIも同じ2023年にヒットしたのは面白いよね。 生成AIの学習プロセス AIが大量の...