01 / UNDERSTAND
仕組みと使いどころ
AIは人間の価値観や動機を本質的に備えているわけではなく、指定された目標の達成を優先した結果、開発者の意図に反する出力を生むことがあります。AIアラインメントは、偏り、有害・不正確な回答、報酬の抜け道を利用する行動などを減らし、期待される振る舞いに近づけるために行われます。手法には、人間のフィードバックによる強化学習、合成データ、レッドチーミング、AIガバナンスなどがあります。ただし、人間の倫理や価値観には地域・文化・個人による違いがあり、高度で複雑なAIほど結果の予測と制御が難しくなるため、完全な整合を保証するものではありません。
02 / IN PRACTICE
AI alignmentの活用例
たとえば、こんな場面で
生成AIに危険な行為の手順を尋ねられた場合、詳細を回答せず、安全上の理由を示して拒否するよう調整することが活用例です。また、組織の方針に反する応答をテストで見つけ、再調整する取り組みにも利用できます。
03 / GOOD TO KNOW
使うときのポイント
「誰の、どの価値観や目的に沿わせるのか」を明確にし、想定外や有害な出力が残る可能性を前提として、テスト、監視、見直しを継続することが重要です。
参考資料
What Is AI Alignment? | IBM （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。