← 전체 뉴스
Databricks Blog2026년 10월 22일
AI 청구서가 다가온다
영어 원문을 AI가 번역했습니다. 영어로 보기
요약
AI 도구 비용은 매출이 아니라 사용량에 따라 늘어나기 때문에, 토큰 무제한 제공도 지출 상한 고정도 오래 유지되기 어렵습니다. Databricks는 지출 가시성과 단계적 마찰을 도입하는 방향으로 전환했습니다. 효율적인 기본 모델, 작업에 맞춰 처리 가능한 가장 저렴한 모델로 라우팅, 개발자 지출 가시성, 토큰 오버헤드 절감이라는 네 가지 방법으로 단위 비용을 최대 90%까지 줄일 수 있으며, AI 게이트웨이가 접근, 라우팅, 예산, 트레이싱을 맡는 제어 계층 역할을 합니다.
* 비용 곡선은 구조적인 문제입니다. AI 도구는 사용량 기반으로 과금되기 때문에 사용량은 기하급수적으로 늘지만 매출은 그렇지 않습니다. 토큰 무제한 제공과 지출 상한 고정은 모두 실패하며, Databricks는 대신 가시성과 단계적 마찰을 도입하는 방식으로 옮겨 갔습니다. * 네 가지 방법으로 단위 비용을 최대 90%까지 줄일 수 있습니다. 기본값을 더 효율적인 모델로 바꾸고, 각 작업을 처리할 수 있는 가장 저렴한 모델로 라우팅하고, 개발자가 자신의 지출을 볼 수 있게 하고, 토큰 오버헤드를 줄이는 것입니다. 토큰 가격만으로는 모델의 실제 비용을 가늠하기 어렵습니다. * 모든 엔지니어링 조직에는 제어 계층이 필요합니다. AI 게이트웨이가 개발자와 모델 사이에서 접근, 라우팅, 예산, 트레이싱을 처리하여 AI 지출을 관찰하고, 조정하고, 예측할 수 있게 해 줍니다.