데일리 · 기사 01 · 4 분 읽기
- OpenAI
OpenAI, 작은 판단을 빠르게 돌려주는 Decisions API 정식 제공
10월 22일자 공식 발표 · 10월 23일 06시 취재 재확인
요약·개요
OpenAI가 10월 22일 Decisions API를 정식 제공한다고 발표했습니다. 텍스트·이미지·JSON을 보고 미리 정한 선택, 확률, 점수를 돌려주는 개발자용 기능입니다. 속도 주장은 같은 GPT-6 Luna를 Responses API로 쓸 때와의 회사 측 비교입니다.
문의가 올 때마다 배송 문제인지 결제 문제인지를 정하면 담당자에게 빨리 보낼 수 있습니다. 이런 작은 판단을 위해 긴 답변을 기다릴 필요는 없겠지요. Decisions API는 답의 형태를 좁혀 이런 일을 처리합니다.
핵심 팩트
OpenAI는 10월 22일 Decisions API의 정식 제공을 발표했습니다. 현재 지원 모델은 GPT-6 Luna이며, 텍스트·이미지·JSON에 확률·선택·점수로 답합니다. 회사는 같은 Luna를 범용 응답 생성용 Responses API로 쓸 때보다 최대 10배 빠르다고 설명합니다. 캐싱, 요청당 최대 400개 질문, GPT-Live 음성 기능과의 연결도 안내했습니다.공식 발표

1. 답의 모양을 먼저 정하기
API는 앱이 외부 서비스에 일을 요청하는 연결 방식입니다. 개발자가 질문과 가능한 답을 정해 보내면 그 형태에 맞춰 결과가 돌아옵니다. 결과를 어디에 쓸지는 앱이 정합니다. JSON은 주문 번호처럼 이름과 값을 짝지어 전달하는 데이터 형식입니다.
가상의 쇼핑몰 창구를 예로 듭니다. 아래는 형식 설명이며 실제 API 실행값이 아닙니다.답 형식
| 형식 | 질문 예 | 돌아오는 값의 의미 |
|---|---|---|
| predicate | 사진에 눈에 보이는 파손이 있나? | 조건이 참일 것으로 추정하는 0~1 사이 확률 |
| choice | 배송·결제·기타 중 어느 문의인가? | 미리 준 선택지 하나 |
| score | 정의한 파손 정도가 어느 수준인가? | 순서가 있는 단계 번호의 확률 가중 평균 |
점수에 피해 금액이나 정확도 같은 단위가 저절로 붙지는 않습니다. ‘흠집 없음·경미·심함’처럼 단계의 의미를 정해야 해석할 수 있습니다. 단계 번호는 0부터 시작하고 평균이므로 단계 사이의 소수도 나올 수 있습니다.
고양이와 풀어보기 Q&A
- 고양이 연구원
확률 0.9면 열 번 중 아홉 번은 무조건 맞는 거야?
포켓 노트모델이 그 조건을 얼마나 그럴듯하게 보는지 추정한 값이야. 실제 정확도는 정답이 있는 사례로 따로 비교해야 해. 틀렸을 때의 피해에 따라 사람이 볼 기준도 달라져.
2. 분류와 실제 처리 이어 붙이기
‘같은 주문이 두 번 결제됐다’는 문의에 결제·배송·기타를 선택지로 줍니다. 결제로 답하면 앱이 결제 담당 대기열로 보낼 수 있습니다. 환불 실행과 그 권한은 별도 설계에 남겨둡니다.
문서는 어느 선택지에도 맞지 않는 입력을 위해 ‘기타’를 두고 검토 대기열로 보낼 수 있다고 설명합니다. 거절과 애매한 결과도 처리해야 합니다. 독립적인 질문은 같은 입력을 공유할 수 있지만, 앞의 답으로 다음 질문이 결정된다면 요청을 나눠야 합니다.
고양이와 풀어보기 Q&A
- 고양이 연구원
400개 질문을 한 번에 보내면 모든 작업을 끝내면 되겠네?
포켓 노트같은 자료에 대한 독립적인 질문을 묶을 때 쓸 수 있어. 파손을 확인한 뒤에만 수리 종류를 고른다면 순서가 있으니 나눠야 해. 400은 요청당 질문 수의 한도이지 완료 건수나 정답 보장이 아니야.
3. 빠르다는 숫자 읽기
최대 10배는 OpenAI가 제시한 API 경로의 비교입니다. 실제 앱에는 자료 조회와 표시 시간도 있습니다. 아래는 계산을 설명하는 가정이며 실제 성능 측정값이 아닙니다.
| 처리 시간 | 기존 경로 | 판단만 빨라진 경로 |
|---|---|---|
| 주문 조회 | 800ms | 800ms |
| AI 판단 | 200ms | 20ms |
| 표시 처리 | 100ms | 100ms |
| 합계 | 1,100ms | 920ms |
판단은 10배 빨라져도 전체 단축은 (1,100-920) ÷ 1,100 ≈ 16.4%입니다. 서비스에서는 판단 시간, 전체 시간, 분류가 틀린 비율을 함께 봐야 합니다.
고양이와 풀어보기 Q&A
- 고양이 연구원
빠른 모델로 바꾸는 것만으로는 부족할 수 있겠네?
포켓 노트어느 단계가 오래 걸리는지에 달려 있어. 여기서는 조회가 가장 길어서 판단만 줄여도 전체 효과는 제한적이야. 실제 단계별 시간을 재면 먼저 손볼 곳을 찾을 수 있어.
4. 입력량으로 계산하는 요금
기본 요금은 입력 100만 토큰당 0.10달러이고 출력 토큰은 과금하지 않습니다. 토큰은 텍스트·이미지 입력량을 세는 단위로 글자 수와 항상 같지는 않습니다. 지역 처리 할증, 긴 문맥 배수, 캐시 쓰기 비용은 별도 조건입니다.요금 안내
캐시와 할증 없이 요청당 총 입력 500토큰이라고 가정한 계산입니다. 서비스 전체 비용이나 측정량이 아닙니다.
| 요청 수 | 입력 토큰 수 | 기본 입력 요금 |
|---|---|---|
| 1,000회 | 500,000 | 0.5 × $0.10 = $0.05 |
| 10,000회 | 5,000,000 | 5 × $0.10 = $0.50 |
캐싱은 반복되는 같은 입력의 앞부분을 재사용합니다. 재사용 부분은 최소 1,024토큰이어야 하고 질문 부분은 포함되지 않으므로, 위의 500토큰 예시에 할인을 자동으로 붙일 수 없습니다. 저장 지역과 실제 처리 지역도 구분해야 합니다. 지역 내 처리는 미국·유럽에서 지원하고, 데이터 무보관은 자격이 있는 고객에게 제공됩니다.개발자 조건
고양이와 풀어보기 Q&A
- 고양이 연구원
작은 앱이면 어떻게 시작하는 게 좋을까?
포켓 노트개인정보를 뺀 예시 문의와 정답 분류표로 비교해 봐. ‘기타’나 검토로 보낼 사례도 넣고 비용은 실제 입력 사용량으로 다시 계산하면 돼. 외부로 보낼 수 있는 자료인지도 회사 규칙에 맞춰 정해야 해.
마무리
다음 단계로 넘기는 판단
배송·결제·기타 중 하나를 고르는 기능은 앱의 작은 부품이 될 수 있습니다. 운영에서는 선택이 틀리거나 거절됐을 때도 문의가 사라지지 않고 사람에게 이어져야 합니다.