01 / UNDERSTAND
仕組みと使いどころ
端末上のモデルと実行基盤を使い、ファイルやアプリ、各種ツールと連携して作業を進める。端末内での生成、マルチモーダル入力、関数呼び出しなどに対応する基盤もある。一方、実行できるモデルや処理速度は端末のメモリー、GPUやNPU、対応する実行環境に左右される。また、ファイル操作やコード実行にはプロンプトインジェクションなどの危険が伴う。
02 / IN PRACTICE
On-Device AI Agentの活用例
たとえば、こんな場面で
PC内の文書を整理するエージェントをローカルモデルで動かし、許可したファイル操作だけを実行させる。
03 / GOOD TO KNOW
使うときのポイント
モデルの実行要件と端末のメモリー・アクセラレーター対応を照合し、操作範囲を隔離して確認する。
参考資料
Build Personal AI Agents on Windows PCs with New Tools from Microsoft and NVIDIA | NVIDIA Technical Blog （新しいタブで開きます）GitHub - google-ai-edge/LiteRT-LM: LiteRT-LM is Google's production-ready, high-performance, open-source inference framework for deploying Large Language Models on edge devices. （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。