최근 AI 업계에서 큰 관심을 받던 오픈소스 프로젝트인 SGLang이 상업용 스타트업인 RadixArk로 새롭게 태어났어요. xAI와 커서 같은 기업들이 AI 모델 학습 속도를 높이기 위해 활용하던 이 기술이 왜 갑자기 4억 달러라는 엄청난 몸값을 인정받게 되었을까요? 단순히 기술력을 넘어 추론 시장의 폭발적인 성장이 배경에 깔려 있습니다.
SGLang 프로젝트가 상업용 스타트업으로 분사한 배경
SGLang은 원래 UC 버클리의 이온 스토이카 교수 연구실에서 탄생한 프로젝트였어요. 데이터브릭스의 공동 창업자로도 유명한 이온 스토이카 교수는 수많은 성공적인 스타트업을 배출한 인물이죠. 이번에 설립된 RadixArk는 이 오픈소스 도구를 유지 관리하던 핵심 인력들이 모여 만든 영리 기업입니다.
주목할 점은 xAI의 엔지니어였던 잉 셩이 공동 창업자이자 CEO로 합류했다는 사실이에요. 엘론 머스크의 스타트업을 떠나 직접 배를 띄운 만큼 업계의 기대감이 매우 높습니다. 이미 작년 8월부터 준비 과정을 거쳐 최근 4억 달러의 가치로 투자를 유치하며 본격적인 항해를 시작했습니다.
왜 AI 추론 최적화 시장에 막대한 자본이 몰릴까?
지금까지 AI 시장이 모델을 가르치는 학습에 집중했다면 이제는 실제로 사용하는 추론 단계가 중요해졌기 때문이에요. 서버 비용의 상당 부분이 바로 이 추론 과정에서 발생하거든요. 기업 입장에서는 똑같은 하드웨어에서 더 빠르고 효율적으로 모델을 돌리는 기술이 곧 돈인 셈입니다.
- 하드웨어 효율성 극대화
- 실시간 응답 속도 향상
- 운영 비용의 획기적 절감
이런 기술을 보유한 기업은 시장에서 즉각적인 환영을 받을 수밖에 없어요. 추론 인프라를 제공하는 다른 스타트업들이 수십억 달러의 가치를 인정받는 것과 같은 맥락입니다.
RadixArk가 해결하려는 AI 서버 비용 절감 방법
RadixArk는 단순히 SGLang을 관리하는 데 그치지 않고 기업용 솔루션을 개발하고 있어요. 특히 ‘마일즈’라고 불리는 강화 학습 전용 프레임워크를 구축 중입니다. 이는 기업들이 시간이 지날수록 더 똑똑해지는 AI 모델을 자체적으로 학습시킬 수 있도록 돕는 도구예요.
- 강화 학습 프레임워크 제공
- 호스팅 서비스 유료화
- 전용 가속화 알고리즘 적용
기존의 무료 도구들은 유지하면서도 기업들이 필요로 하는 안정적인 호스팅과 부가 기능을 통해 수익을 창출하려는 전략입니다. 이는 오픈소스의 대중성과 비즈니스의 수익성을 동시에 잡으려는 똑똑한 선택으로 보여요.
vLLM과 SGLang 중 어떤 기술이 더 우세할까요?
사실 SGLang의 가장 강력한 경쟁자는 같은 연구실에서 나온 vLLM이라고 할 수 있어요. vLLM은 이미 많은 대기업이 채택하고 있는 성숙한 프로젝트입니다. 하지만 최근 6개월 사이 SGLang의 인기가 무섭게 치솟으며 시장 점유율을 빠르게 뺏어오고 있어요.
vLLM 역시 최근 10억 달러 가치의 투자 논의가 오갈 만큼 덩치가 커졌지만, SGLang은 후발 주자로서의 민첩함과 최신 최적화 기법을 무기로 내세우고 있습니다. 두 프로젝트 모두 이온 스토이카 교수의 손길이 닿아 있다는 점이 참 흥미로운 대목이죠.
오픈소스 SGLang 기반으로 수익을 창출하는 법
현재 RadixArk가 수익을 내는 주요 통로는 호스팅 서비스예요. 대부분의 도구를 무료로 공개하여 개발자들을 끌어모은 뒤, 이를 실제 서비스에 적용할 때 필요한 인프라 관리 비용을 받는 방식입니다. 이는 전형적인 오픈소스 비즈니스 모델의 성공 사례를 따르고 있어요.
- 오픈소스 커뮤니티 생태계 확장
- 전문적인 기술 지원 서비스
- 기업 맞춤형 보안 및 관리 기능
사용자들이 이미 익숙해진 도구를 버리고 다른 곳으로 가기 어렵게 만드는 효과가 있습니다. 기술력이 담보된다면 사용자 층이 두터워질수록 기업 가치는 기하급수적으로 올라가게 됩니다.
기업들이 SGLang 기술에 열광하는 실질적인 이유
가장 큰 이유는 역시 성능입니다. xAI나 커서 같은 기술 중심적인 기업들이 이 도구를 선택했다는 것 자체가 실질적인 성능 향상을 증명하는 셈이니까요. 복잡한 설정 없이도 모델의 응답 속도를 몇 배씩 끌어올릴 수 있다는 점이 매력적이에요.
또한 강화 학습 분야에서의 강점도 빼놓을 수 없습니다. 최근 AI 모델들이 스스로 사고하고 문제를 해결하는 능력이 중요해지면서 이를 뒷받침할 인프라 기술이 절실해졌거든요. SGLang은 바로 그 가려운 부분을 정확히 긁어주고 있습니다.
마치며
AI 기술이 상향 평준화될수록 이를 얼마나 저렴하고 빠르게 돌릴 수 있느냐가 승부처가 될 거예요. SGLang에서 분사한 RadixArk의 행보는 그런 의미에서 매우 상징적입니다. 단순히 유행을 쫓는 게 아니라 인공지능 시대의 기초 체력을 기르는 기술이기 때문입니다. 앞으로 이들이 추론 시장에서 어떤 변화를 이끌어낼지 지켜보는 재미가 쏠쏠할 것 같습니다.
이어서 보면 좋은 글
#SGLang #RadixArk #AI추론 #인공지능스타트업 #데이터브릭스 #vLLM #이온스토이카 #AI인프라 #서버비용절감 #IT트렌드