01 / UNDERSTAND
仕組みと使いどころ
対話モデルは、無害な依頼には従い、有害な指示には応じないよう調整されることがある。複数の公開モデルを調べた研究では、この振る舞いに共通する一次元の内部方向が見つかり、その除去で有害な指示への拒否が抑えられ、追加で無害な指示まで拒むようになった。こうした結果は、現在の安全調整が内部表現への介入で崩れ得ることも示している。
02 / IN PRACTICE
Model Refusalの活用例
たとえば、こんな場面で
公開前のモデルに無害な依頼と有害な依頼を与え、適切に回答と拒否を分けられるか評価する。
03 / GOOD TO KNOW
使うときのポイント
拒否率だけで安全性を判断せず、無害な依頼の過剰拒否や、内部介入後の能力変化も分けて確認する。
参考資料
Refusal in Language Models Is Mediated by a Single Direction （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。