AI LAB / KEYWORD DICTIONARY

エージェント評価ベンチマーク

ARC-AGI-3(ARC-AGI-3)とは?

未知の抽象的な対話環境で、探索、目標推定、環境理解、行動計画の能力を測るベンチマーク。

仕組みと使いどころ

明示的な手順がないターン制環境で、エージェントが探索しながら目的と状態変化の仕組みを推定し、有効な行動列を組み立てる能力を評価する。言語知識や外部知識ではなく、新しい課題への流動的な適応効率に焦点を置き、人間の行動を基準にした効率評価を採用する。実行時の会話履歴や推論状態の保持方法が異なる評価結果は、同一条件として扱えない。

ARC-AGI-3の活用例

たとえば、こんな場面で

候補エージェントを同じゲーム、行動制限、採点条件で動かし、未知環境への適応力を比較する。

使うときのポイント

スコアを見る際は、使用した実行環境、履歴管理方式、モデル設定を確認し、異なる方式の結果を分けて扱う。

参考資料

ARC-AGI-3: A New Challenge for Frontier Agentic Intelligence (新しいタブで開きます)GitHub - arcprize/arc-agi-3-benchmarking (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る