Anthropic

AIの話題

「憲法AI」とは?(AIフィードバックからの強化学習)

「憲法AI」は、与えられた原則を元にAIの自己改善によって倫理的な判断の精度を上げる手法です。 うまくすれば人間の仕事は、AIの判断基準となるルール規範(「憲法」)を明文化するだけで済むわけです。
AIの話題

Claudeという生成AI(流暢なだけに捏造も本当っぽいので注意)

Claudeは、ChatGPTよりも「流暢な日本語」を生成するAIで、クリエイティブな作業や長文の生成に向いています。 長い複雑な文章を与えても、かなり精度よく要約や回答させることができます。 しかし、前提なしに調べものの回答をさせると、いかにも本物っぽい事例が架空のものだったりするので、受け売りは要注意です。 Claude 3が話題なので気になる、という話。 調べものに使うと足元をすくわれそうで...