Local AI deployment（ローカル型AI配置）とは？

01 / UNDERSTAND

仕組みと使いどころ

ローカル型AI配置は、ここではAIモデルを組織が所有し、自ら保守する物理ハードウェアで動かす構成を表します。確認済み資料では、この構成はオンプレミス配置として説明されています。処理方法や計算資源の割り当てを組織側で管理しやすい一方、必要な設備への初期投資やサーバーを管理する人員が必要になります。クラウド配置は第三者が管理する遠隔サーバーで実行する別の形態です。また、資料ではエッジ配置とオンデバイス配置も別個の環境として区別されているため、これらをローカル型の同義語や一律の下位分類とはしません。ローカルで推論する製品には、取得済みモデルによる対話や文書処理、ローカルサーバーをオフラインで実行できる例がありますが、モデルや実行環境の検索、取得、更新確認には通信が必要な場合があります。

02 / IN PRACTICE

Local AI deploymentの活用例

03 / GOOD TO KNOW

使うときのポイント

設備の所有者と管理主体、推論を実行する場所、必要なCPU・GPUとメモリ、保守担当、モデルや実行環境の取得・更新時に必要な通信を確認してください。