01 / UNDERSTAND
仕組みと使いどころ
対応するアプリや推論エンジンを使い、モデルを自分の機器上で動かします。入力データを遠隔サーバーへ送らずに処理でき、モデル設定を管理しやすく、外部API提供者への利用料なしで実行できる点が利点です。一方、処理速度や扱えるモデルの規模は使用する機器に制約されます。また、実行アプリごとに対応するモデル形式が異なります。
02 / IN PRACTICE
Local LLMの活用例
たとえば、こんな場面で
社外へ送信したくない文書を手元の機器で処理し、要約や対話を試す用途が考えられます。
03 / GOOD TO KNOW
使うときのポイント
機器の処理能力だけでなく、使いたいモデルの形式が実行アプリに対応しているかを確認します。
参考資料
Use AI Models Locally · Hugging Face （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
