道徳的自己修正
道徳的自己修正（どうとくてきじこしゅうせい、(moral self-correction）とは、大規模言語モデル（LLM）が指示を受けた際に、有害または道徳的に問題のある出力を自律的に回避・修正する能力を指す概念である。 2023年にAnthropicの研究者らが発表した論文において体系的に定義・検証され、AIの安全性・AIアライメント研究における重要なトピックとして注目されている。
道徳的自己修正（どうとくてきじこしゅうせい、(moral self-correction）とは、大規模言語モデル（LLM）が指示を受けた際に、有害または道徳的に問題のある出力を自律的に回避・修正する能力を指す概念である。 2023年にAnthropicの研究者らが発表した論文において体系的に定義・検証され、AIの安全性・AIアライメント研究における重要なトピックとして注目されている。
道徳的自己修正（どうとくてきじこしゅうせい、(moral self-correction）とは、大規模言語モデル（LLM）が指示を受けた際に、有害または道徳的に問題のある出力を自律的に回避・修正する能力を指す概念である。 2023年にAnthropicの研究者らが発表した論文において体系的に定義・検証され、AIの安全性・AIアライメント研究における重要なトピックとして注目されている。
出典: Wikipedia「道徳的自己修正」 · CC BY-SA 4.0
この記事を共有: X · Bluesky