01 / UNDERSTAND
仕組みと使いどころ
AI推論費用には、リアルタイム推論用エンドポイントの時間単位の費用や、推論1回当たりの推定費用などがあります。生成AIサービスでは、モデル、提供元、入出力の種類、利用ティアなどによって料金体系が変わる場合もあります。費用だけで構成を決めるのではなく、必要な応答時間、処理量、トラフィックの変動、常時稼働の要否と併せて比較します。AWSの資料では、リアルタイム、サーバーレス、非同期、バッチなど、処理特性に応じた推論方式が示されています。最適な方式や費用はワークロードごとに異なり、一般化した金額や削減効果は保証できません。
02 / IN PRACTICE
AI Inference Costの活用例
たとえば、こんな場面で
問い合わせが集中する時間帯だけ処理量が増えるAI機能では、常時稼働する構成と自動的に拡縮する構成について、応答時間と推論費用を比較する、といった活用が考えられます。
03 / GOOD TO KNOW
使うときのポイント
比較時は、時間当たりの費用と推論1回当たりの費用を区別し、対象モデル、リージョン、課金単位、推論方式、想定トラフィックを公式料金表と計測結果で確認します。
参考資料
Recommendation results - Amazon SageMaker AI （新しいタブで開きます）Inference cost optimization best practices （新しいタブで開きます）Amazon Bedrock Pricing – AWS （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。