アライメント

詳しい解説

AIの挙動を人間の意図や倫理観に沿ったものにする研究分野。Anthropic社が特に力を入れており、Constitutional AIという手法が知られます。