AI LAB / KEYWORD DICTIONARY

基礎知識

Local AI model(ローカルで動くAIモデル)とは?

ローカルで動くAIモデルとは、クラウドではなく自分の端末上で推論を実行するモデルです。モデル本体を入手し、端末のメモリなどの利用可能なハードウェア資源に収まる必要があります。

仕組みと使いどころ

モデルの重みファイルを端末へダウンロードし、RAMなどのメモリに読み込んで利用します。LM Studioでは、準備済みのモデルを使った対話、文書との対話、ローカルサーバーによる推論をオフラインで実行でき、入力内容や文書処理は端末内に保たれます。一方、モデルの検索やダウンロード、実行環境やアプリの更新にはインターネット接続が必要です。また、利用できるモデルは端末のメモリや処理速度に制約され、ツール利用や画像入力への対応もモデルごとに異なります。

Local AI modelの活用例

たとえば、こんな場面で

機密性を考慮した文書を外部サービスへ送らずに扱いたい場合、対応するモデルを端末へ事前に保存し、LM Studio上で文書との対話や文章生成に利用する方法が考えられます。

使うときのポイント

導入前に、モデルが端末のメモリに収まるか、必要なツールや画像入力に対応するかを確認します。完全なオフライン利用には、モデルと必要な実行環境を事前に取得しておく必要があります。

参考資料

Choose a Cloud, Local, or Remote Model (新しいタブで開きます)Get started with LM Studio (新しいタブで開きます)Offline Operation (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る