トークン種別ごとの課金の仕組み
入力、キャッシュ読み取り、キャッシュ書き込み、出力をなぜ別々の単価で数えるのか、四つのモデルが種別ごとに何クレジットを課金するのか、キャッシュ読み取りが入力の十分の一である理由、そして実際のリクエストを最後の一クレジットまで計算した例をまとめています。自分の請求書と突き合わせられる計算です。
OpenAI互換APIを運用して分かったことの記録
このエンドポイントを運用しながら分かったことを書いています。一つのリクエストがどう課金されるのか、計測が何を記録しているのか、そして料金表には書かれていない部分について。