← 전체 뉴스
Databricks Blog2026년 9월 4일
특수화된 GPU 커널 생성을 통한 극단적인 효율성 달성
영어 원문을 AI가 번역했습니다. 영어로 보기
요약
자동화된 GPU 커널 생성을 통해 vLLM에서 제공하는 최고 성능의 구현보다 1.8~5.2배 빠른 Qwen 3.5 122B 커널을 생성했습니다. 이러한 효율성 향상을 달성하려면 제약 없는 에이전트 탐색과, 측정 오류를 잡아내고 실제 속도 향상을 검증하는 엄격한 외부 검증 시스템을 결합해야 합니다.
* 새로운 커널 초안은 저렴하고 병렬로 생성하기 쉽지만 신뢰는 그렇지 않습니다. 시스템은 초안을 검증할 수 있는 만큼만 발전합니다. * 기적적으로 빨라 보이는 숫자는 종종 이전 실행의 잔여 작업, 양측이 동일한 작업을 수행하지 않은 비교, 또는 숨겨진 가정하에서만 좋아 보이는 커널 등의 측정 오류입니다. * 컨텍스트는 최대화해야 할 더미가 아니라 트레이드오프입니다. 텍스트가 많을수록 모델이 작업할 여지가 늘어나지만 비용이 많이 들고, 추가 노트는 다음 시도가 빗나가게 만들기 쉽습니다. 너무 적으면 루프가 움직일 수 없습니다. * 자유롭게 탐색할 수 있는 에이전트는 더 나은 커널을 작성합니다. 엄격한 외부 시스템은 피드백을 정의하고 배포 허용 여부를 결정해야 합니다. 좋은 디자인에는 둘 다 필요합니다. * 생성된 개별 Qwen 3.5 122B 커널은 vLLM에서 사용 가능한 최고의 구현보다 1.8~5.2배 더 빨랐습니다.