AI LAB / KEYWORD DICTIONARY

基礎知識

Model Size(モデルサイズ)とは?

モデルサイズとは、AIモデルが持つパラメータ数で表される規模です。性能に関係する要素の一つであり、必要な計算資源、費用、速度、配置方法にも影響します。

仕組みと使いどころ

モデルのパラメータは、学習によって調整される重みやバイアスなどの内部変数です。一般にパラメータ数の増加は幅広いタスクでの性能向上と関係しますが、改善幅は次第に小さくなり、モデルが大きいだけで常に優れるとは限りません。性能は学習データの量や質、計算資源、モデル構成などにも左右され、小さいモデルがより多くのデータで学習することで大きいモデルを上回る場合もあります。大きいモデルはカスタマイズや運用の費用が高く、複数のGPUを必要としたり、推論が遅くなったりする可能性があります。小さいモデルは配置の選択肢、費用、推論速度で有利な場合がありますが、出力精度が低くなる可能性があります。

Model Sizeの活用例

たとえば、こんな場面で

問い合わせ対応用のモデルを選ぶ際、サイズの異なる候補を同じ業務用プロンプトと評価データで比較し、回答品質、応答時間、運用費、必要な計算資源を確認する方法が考えられます。

使うときのポイント

パラメータ数だけで選ばず、用途を代表する入力で候補を比較し、品質、推論速度、費用、利用できる計算資源のバランスを確認します。

参考資料

What are Generative AI Models? - Generative AI Models Explained - AWS (新しいタブで開きます)What Are Scaling Laws in AI? - Neural Scaling Laws Explained - AWS (新しいタブで開きます)Choosing a generative AI service (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る