01 / UNDERSTAND
仕組みと使いどころ
大規模言語モデルに対するレッドチーミングでは、敵対的な入力だけでなく、通常の利用でも生じ得る有害コンテンツや予期しない挙動を調べます。基盤モデル、安全機能、アプリケーションを対象に、自由探索型または既知の危害に沿ったテストを行い、入力、出力、発見内容、再現用の識別情報などを記録します。発見結果は、リスク範囲の理解、測定対象の選定、安全対策の改善に役立ちます。ただし、個別事例の発見だけでは危害の発生頻度や対策の有効性を測定できません。体系的な測定や緩和策の代わりではなく、初期の手動テスト後に測定と対策を進めることが推奨されています。
02 / IN PRACTICE
Red teamingの活用例
たとえば、こんな場面で
医療従事者向けチャットボットを対象に、AI、セキュリティ、医療の知識を持つ担当者と一般利用者の視点を持つ担当者が、基盤モデルと実際の画面を試し、発見した問題を記録します。
03 / GOOD TO KNOW
使うときのポイント
実施前に対象、調べる危害、担当者、記録項目を定めてください。報告では個別事例の発見と発生頻度の測定を区別し、レッドチーミングだけで安全性が保証されるとは判断しないことが重要です。
参考資料
Planning red teaming for large language models (LLMs) and their applications - Microsoft Foundry （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
