生成AIがコードを書いたり、
アイデア出しなど実用化され、
AI機能を組み込んだ製品が
活発に作られています。
ただ、今のAIの弱みは、
推論コストが高いままなこと。
「先行キャンペーン」で破格の値段で
提供されていて、適正価格だと、
気軽には使えなくなってしまいます。
生成AI はいずれ有償が当たり前になる？【サーバ費用と収益モデル】
ChatGPT や Bard などの対話型AI（あるいは生成AI）は、処理コストが高いです。キーワード検索と違って、チャット検索には すでに回数制限が設けられています。今後は精度の向上もさることながら、普及期になると採算性のため、そのコストをどう支払うかという問題がでてきそうです。「BardはChatGPTより軽い」意味OpenAI の ChatGPT は、2020年にリリースされたGPT-3 という言語モデルを元にしています。一方、Google の Bard は、2020年...
chiilabo.com
Claudeの予期せぬ容量制限（unexpected capacity constraints）
Claudeの使用中に「予期せぬ容量制限」によるエラーが発生しました。ただ、「新しいチャット」を開き直すと通常通り回答が表示されました。あまり頻繁に起こるようなら、サーバの処理能力が足りなくなってきているの可能性があります。AIサービスの利用増加に対応する処理能力を確保するには有料プランの値上げが必要で、そういう兆候なのかもしれません。「Due to unexpected capacity costraints,」Claude 3.5 Sonnetを使っていたら、「Conte...
chiilabo.com
結局 Claude 3 Opus と 3.5 Sonnetのどっちを使えばいいの？（Claude 3.5 Sonnet）
Anthropicの Claude 3.5 Sonnetは、回答精度・応答速度・コスト効率が良くなりました。日常的な質問や通常のタスクなら Claude 3.5 Sonnet でも十分なレベルになっています。まだ、本一冊まるごと分析するなど、膨大なデータを分析するようなケースでは Claude 3 Opusが役に立つケースもあるようです。私は Claude Pro プランで、今までは主に Claude 3 Opusで文章処理をしていました。これからは まずは Claude 3...
chiilabo.com
「DeepSeek」とは？（AIサービスと言語モデル）
DeepSeekは、低価格なのに最新のChatGPTにも匹敵する性能を持つ、中国発のAIモデルです。中国国内にデータを保存するDeepSeekアプリには、データプライバシーのリスクが存在する一方、言語モデルは既存サービスに組み込まれて始めています。DeepSeekのAIサービスと言語モデルは、区別して考える必要があります。YouTube動画でも話していますDeepSeekはゲームチェンジャー？DeepSeekは、「低コストなのにChatGPTと同等の高性能を実現したAI」です...
chiilabo.com
QRコードを読み込むと、関連記事を確認できます。
