メインコンテンツへスキップ

Bedrockのプロンプトキャッシュで繰り返す入力の費用を削減

原題: Optimizing cost and latency with Amazon Bedrock prompt caching

Key Takeaways

この記事の要点(3行要約)

  1. 同じ文脈の再利用にプロンプトキャッシュを使います。
  2. 最大90%は対象条件でのキャッシュ読み取り部分の入力費用に関する説明です。
  3. 読み取りや書き込みにも料金があり、総費用の削減率は利用条件によって異なります。

この記事の読みどころ

実装前に見る3点

  1. 01記事の論点

    同じ文脈を再利用する際のキャッシュ書き込みと読み取りについてAWSが説明しています。

  2. 02自社で見る点

    キャッシュの対象モデル、書き込みと読み取りの料金、有効期間、出力や新しい入力の費用を確認し、実際の利用パターンで総費用を比較してください。

  3. 03原文で確認する点

    AWS Machine Learning Blog発のベンダーとして、ナレッジ管理での製品主張と、連携範囲・料金・制約を分けて確認。

AWSはBedrockで同じ文脈を繰り返し利用する場合のプロンプトキャッシュを解説しています。対象条件ではキャッシュ読み取り部分の入力費用を最大90%削減できる一方、読み取りにも料金が発生し、書き込み費用や有効期間、モデルごとの条件もあります。記事の更新後の具体例と料金前提は対応するAnthropicモデルを対象としています。

ゼロビズAX View — 日本企業ならどう活かすか

自社で検討する際に確認することは?
キャッシュの対象モデル、書き込みと読み取りの料金、有効期間、出力や新しい入力の費用を確認し、実際の利用パターンで総費用を比較してください。

キャッシュの対象モデル、書き込みと読み取りの料金、有効期間、出力や新しい入力の費用を確認し、実際の利用パターンで総費用を比較してください。

よくある質問

2回目以降は無料ですか?
いいえ。キャッシュ読み取りにも料金がかかり、書き込みや有効期間の条件もあります。

やさしい用語解説

この記事に出てくる専門用語を、かんたんに説明します。

プロンプト
AIへの「指示文」。書き方を工夫すると回答の質が変わります。

Next step

この記事を自社の案件に当てはめる

RAG、AIエージェント、生成AI APIなどを、現場オペレーションに寄せて実装します。

業務AI開発

出典: https://aws.amazon.com/blogs/machine-learning/optimizing-cost-and-latency-with-amazon-bedrock-prompt-caching/

本記事は海外の出典を基に AI が要約したものです。誤訳・誤要約の可能性があり、実装判断の前に必ず原文をご確認ください。「ゼロビズAX View」は当社による応用見立てであり、特定の成果を保証するものではありません。

海外AI動向の一覧へ →← 一覧に戻る