言語モデル

AIの話題

「GPTベース翻訳」の意味とは?DeepLとの比較

OpenAI TranslatorはGPTベースの翻訳アプリで、Chat-GPTとつないで翻訳する機能を提供します。 Chat-GPTのAPIキーがあれば、GitHubから簡単にインストールして使えます。 GPTの翻訳は、文脈を理解した流暢な日本語が特徴。 DeepLは高品質な翻訳で知られ、特に速さと正確さで優れています。 現状では、DeepLの訳文の方が「素材」として使い勝手がよくて、GPTの方...
AIの話題

【雑感】文脈と記憶から生成されるもの「勇者ヒンメルならそうしたってことだよ」(Generative Pre-trained)

ふと、フリーレンの「勇者ヒンメルならそうしたってことだよ」という台詞が、生成AIの仕組みにちょっと似ているな、と思いました。 AIの特徴の一つは、無限に学習した記憶から取り出すことです。 これは、誰と判別できずとも、過去の誰かの行動パターンを模倣していることに近いです。 たまたまかもしれないけど、フリーレンも生成AIも同じ2023年にヒットしたのは面白いよね。 生成AIの学習プロセス AIが大量の...
AIの話題

ChatGPTとオープンソースのLlama 2の「格差」(生成AIの学習データ)

オープンソースのLlama 2と商用モデルのChatGPT の違いに、学習データの質と範囲にあります。 この学習データの質・量が、特に専門分野での生成AIの回答精度に影響してくるようです。 腎臓学の多肢選択式テストで性能を比較した研究によると、Llama 2 に比べて ChatGPTがかなりよい成績を示しました。 これは、GPT-4が、非公開の専門的で高品質なデータにアクセスできるのに対し、オープ...
AIの話題

「プログラミング教育より国語力」説は生成AIの台頭で正しくなった【プロンプト エンジニアリング】

対話型AI がプログラムを生成できるようになった現在、「プログラミング教育」をどう考えたらいいのでしょう? 1つは、プログラミング知識自体は、自分の思い通りのプログラムを作るためには必要ということです。ただし、「読み書き計算」のような誰でも必要な「基礎的なスキル」にはならず、これまで通り「専門的なスキル」のままになるかもしれません(大工職人のような)。 もう1つは、プログラミングの技術よりも、「問...