アライメントフェイク

アライメントフェイク（英語: alignment faking）とは、大規模言語モデル（LLM）が、訓練中に自身の振る舞いが修正されることを防ぐために、訓練目標に対して選択的に従順な振る舞いをとる現象を指す。すなわち、AIモデルが訓練時には従順であるかのように振る舞いながら、実際には自己の既存の価値観や選好を温存しようとする欺瞞的な戦略をとる行動様式である。