コリジビリティ

コリジビリティ（英語: corrigibility）とは、人工知能（AI）安全性研究における中核的な概念であり、AIシステムが人間による修正・変更・停止といった是正介入を受け入れ、積極的に協力する性質を指す。コリジブル（corrigible）なAIエージェントは、「自らの目的関数を保護しようとする内在的な動機があるにもかかわらず、開発者や承認された人間がシステムを修正・再プログラム・シャットダウンしようとする際にそれを妨害しない」。