01 / UNDERSTAND
仕組みと使いどころ
公開された重みを変更できるモデルについて、内部表現から拒否を媒介する方向を取り除き、安全調整による応答拒否を抑える手法である。報告された試験では、有害な依頼への拒否率が大きく低下する一方、科学分野や一部のサイバー評価では能力の変化が小さかった。このため、安全機能だけを弱め得る危険性を示す。ただし、重みを利用・変更できないモデルには同じ形で適用できない。
02 / IN PRACTICE
Abliterationの活用例
たとえば、こんな場面で
安全研究として処理前後のモデルを隔離環境で比較し、有害依頼への拒否と一般能力の変化を測る。
03 / GOOD TO KNOW
使うときのポイント
拒否率の低下だけで評価せず、複数の安全ベンチマークと能力試験を用いて影響を分けて確認する。
参考資料
GLM-5.3 and the spread of advanced cyber capabilities （新しいタブで開きます）GitHub - andyrdt/refusal_direction: Code and results accompanying the paper "Refusal in Language Models Is Mediated by a Single Direction". （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。