デイリー · 記事 01 · 4 分で読む
- OpenAI
OpenAI、小さな判断を素早く返すDecisions APIを正式提供
10月22日付の公式発表 · 10月23日6時台に再確認
要約・概要
OpenAIは10月22日、Decisions APIの正式提供を発表しました。文章・画像・JSONから決められた選択肢、確率、点数を返す開発者向け機能です。速度の主張は、同じGPT-6 LunaをResponses APIで使う場合との同社による比較です。
問い合わせが配送か支払いかを判断できれば、担当者へ早く回せます。小さな判断のために長い回答を待つ必要はないでしょう。Decisions APIは答えの形を絞ってこうした仕事を処理します。
主な事実
OpenAIは10月22日、Decisions APIの正式提供を発表しました。現在の対応モデルはGPT-6 Lunaで、文章・画像・JSONから確率・選択・点数を返します。同社は同じLunaを汎用の応答生成用Responses APIで使う場合より最大10倍速いと説明しています。キャッシュ、1リクエスト最大400問、GPT-Liveの音声機能との接続も案内しました。公式発表
1. 答えの形を先に決める
APIはアプリが外部サービスに仕事を頼む接続方法です。開発者が質問と候補を決めて送り、その形に沿う結果を受け取ります。その後の使い方はアプリが決めます。JSONは注文番号などを、項目名と値の組み合わせで渡すデータ形式です。
架空の通販窓口を例にします。次は形式の説明で、実行結果ではありません。回答形式
| 形式 | 質問の例 | 値の意味 |
|---|---|---|
| predicate | 写真に目で見える破損があるか | 条件が真だと推定する0〜1の確率 |
| choice | 配送・支払い・その他のどれか | 用意した選択肢の一つ |
| score | 定義した破損の程度はどの段階か | 順序のある段階の番号を確率で重み付けした平均 |
点数に被害額や正解率といった単位が自動で付きません。「傷なし・軽度・重度」など、各段階の意味を決める必要があります。段階の番号は0から始まり、平均なので段階の間の小数にもなります。
猫と一緒に読み解く Q&A
猫の研究員確率0.9なら、10回中9回は必ず正しい？
ポケットノート条件をどれくらいありそうだと見るかの推定だよ。正解率は、正解が分かっている例と別に比べる必要がある。間違えたときの被害によって、人が見る基準も変わるよ。
2. 分類から実際の仕事へ
「同じ注文で二重に請求された」という問い合わせに、支払い・配送・その他の候補を渡します。支払いと返れば担当の待ち行列に回せます。返金の実行と権限は、別に設計する部分として残します。
ガイドは候補に合わない入力に「その他」を用意し、確認用の待ち行列へ送る方法を示しています。回答拒否や曖昧な結果にも対応が必要です。独立した質問は入力を共有できますが、前の答えで次の質問が決まる場合は別のリクエストにします。
猫と一緒に読み解く Q&A
- 猫の研究員
一度に400問なら、全部の仕事を終えられるね？
ポケットノート同じ資料に対する独立した質問をまとめるときに使えるよ。破損を確認してから修理の種類を選ぶなら、順番があるので分ける必要がある。400は質問数の上限で、処理件数や正解の保証ではないんだ。
3. 「速い」という数字の読み方
最大10倍はOpenAIによるAPI経路の比較です。アプリ全体には照会と表示の時間もあります。以下は計算用の仮定で、実際の製品の測定値ではありません。
| 処理時間 | 以前の経路 | 判断だけ速くなった経路 |
|---|---|---|
| 注文照会 | 800ms | 800ms |
| AIの判断 | 200ms | 20ms |
| 表示処理 | 100ms | 100ms |
| 合計 | 1,100ms | 920ms |
判断が10倍速くても、全体の短縮は (1,100-920) ÷ 1,100 ≈ 16.4% です。実際のサービスでは判断時間、全体の時間、分類を間違えた割合を一緒に見ます。
猫と一緒に読み解く Q&A
- 猫の研究員
速いモデルに替えるだけでは足りないこともある？
ポケットノートどの段階が長いかによるよ。この例は照会が一番長いので、判断だけ短くしても全体への効果は限られるんだ。各段階を測ると、先に直す場所が分かるよ。
4. 入力量で計算する料金
基本料金は入力100万トークン当たり0.10ドルで、出力トークンは課金しません。トークンは文章や画像の入力量を数える単位で、文字数と常に同じではありません。地域内処理の割増、長い文脈の倍率、キャッシュ書き込みには別の条件があります。料金案内
キャッシュも割増もなく、総入力を1リクエスト500トークンと仮定した計算です。全体の費用や実測値ではありません。
| 回数 | 入力トークン数 | 基本料金 |
|---|---|---|
| 1,000回 | 500,000 | 0.5 × $0.10 = $0.05 |
| 10,000回 | 5,000,000 | 5 × $0.10 = $0.50 |
キャッシュは同じ入力の先頭部分を再利用します。最低1,024トークン必要で質問部分は含まれないため、上の500トークンの例に自動で割引を付けられません。保存場所と処理場所も別で、地域内処理は米国・欧州で対応し、データを保持しない機能は対象条件を満たす顧客に提供されます。開発者向け条件
猫と一緒に読み解く Q&A
- 猫の研究員
小さなアプリなら、何から始めればいい？
ポケットノート個人情報を除いた例の問い合わせを、正解の分類表と比べよう。「その他」や人の確認に回す例も入れて、費用は実際の使用量で計算し直すといい。外に送れる資料かも会社のルールに沿って決める必要があるよ。
まとめ
次の処理に渡す判断
配送・支払い・その他を選ぶ機能は、アプリの小さな部品になれます。間違いや回答拒否があっても問い合わせが消えず、人につながる設計が必要です。