CB인사이트 선정 글로벌 AI 기업 100 리스트 해부 – 산업의 판이 바뀌고 있다: 뜨는 기술 vs 사라지는 카테고리 (Agent Stack, Workflow AI, Evaluation Infra)
생성형 AI가 시장을 장악하는 것처럼 보이지만, 정작 리스트에서 가장 빠르게 증가한 분야는 '에이전트 인프라'였습니다. 2025년 CB Insights 리스트는 단순한 명단이 아닌, 산업 구조 변화의 흐름을 담고 있습니다.
안녕하세요. 본 글은 CB Insights가 발표한 2025년 AI 100 리스트를 중심으로, 카테고리별 변화와 산업 재편의 방향성을 분석하는 두 번째 콘텐츠입니다.
2025.05.01 - [트렌드 정복기] - CB인사이트 선정 100대 글로벌 AI 기업 리스트, 2024 vs 2025 전격 비교 – 1년 만에 모든 것이 바뀌었다
2024년 대비 2025년 리스트를 살펴보면, 카테고리의 구성 자체가 확연히 달라졌다는 점을 확인할 수 있습니다.
AI 인프라는 더 세분화되었고, 워크플로우 자동화와 오케스트레이션 관련 기업들이 눈에 띄게 증가했습니다.
반면, 음성 기반 인터페이스, 단일 챗봇, 텍스트 요약 도구 등은 빠르게 비중이 줄었습니다.
이번 글에서는 카테고리별 기업 수 변화, 기술군별 흥망, 신설된 세부 분야를 중심으로 2025년 AI 산업이 어디로 이동하고 있는지를 살펴보겠습니다.
목차
1. 카테고리 총괄 비교 – 수치로 본 구조 변화
CB Insights는 AI 100 리스트를 발표할 때 기업들을 3대 영역으로 분류합니다:
Horizontal AI (범용 솔루션), Vertical AI (특정 산업 특화), AI Infrastructure (인프라).
2024년과 2025년 리스트를 비교해보면, 이 세 영역의 기업 수 비중은 다음과 같이 변화했습니다.
| 영역 | 2024년 기업 수 | 2025년 기업 수 | 증감 |
|---|---|---|---|
| Horizontal AI | 37 | 34 | -3 |
| Vertical AI | 34 | 32 | -2 |
| AI Infrastructure | 29 | 34 | +5 |
수치로 보더라도, 가장 큰 변화는 AI Infrastructure 분야의 확대입니다.
특히 2025년 리스트에서는 기존 'Infra'라는 단일 범주 안에서 Agent Stack, Evaluation, Orchestration, Security, Routing 등으로 기술적 하위 구분이 세분화되었습니다.
이는 기술의 성능 경쟁이 아닌, 도입 효율성과 연결성 중심의 구조 경쟁이 시작되었음을 보여줍니다.
2. 떠오른 분야들 – Agent Stack, Workflow AI, Evaluation Infra
2025년 리스트에서 가장 강세를 보인 기술군은 에이전트 인프라(Agent Stack), 작업자동화(Workflow AI), 모델 평가 및 관측(Evaluation Infra)였습니다.
이들은 기존 생성형 모델에 기능을 더하는 것이 아니라, 실제 기업 내부 시스템, 고객 서비스, 운영 자동화 등의 워크플로우를 구성할 수 있도록 연결 기능을 제공합니다.
대표 기업 사례는 다음과 같습니다.
- LangChain – LLM 기반 에이전트 구성의 오픈소스 표준 라이브러리
- Gantry – 모델의 응답 품질 및 실제 활용 데이터를 평가하는 LLM Observability 툴
- Fixie – 워크플로우 기반의 AI Agent SaaS 솔루션
- Baseten – 모델 서빙 및 배포 자동화, 실전 인프라 구축 지원
이러한 기업들은 모델 그 자체보다 ‘모델을 어디에 배치하고 어떻게 운용하는가’에 초점을 맞추고 있으며, 이는 AI의 상용화 단계에서 필수적인 요소로 평가받고 있습니다.
3. 퇴장한 기술군 – 챗봇, 음성 인터페이스, 텍스트 요약 도구
반면, 2024년 리스트에서 비중이 높았던 분야 중 일부는 2025년 리스트에서 자취를 감추다시피 했습니다.
대표적으로는 단일 챗봇 솔루션, 음성 기반 인터페이스, 텍스트 요약 및 간단한 생성형 도구들이 해당합니다.
CB Insights는 이들 기술군에 대해 “진입 장벽이 낮고 차별성이 약해졌으며, 대형 모델의 범용화로 경쟁 우위가 사라졌다”라고 평가했습니다.
- 단일 언어 기반 챗봇 기업 → 대부분 퇴출
- 음성 합성 및 인터페이스 기업 → 상용화에 실패하거나 대형 AI API에 흡수됨
- 자동 텍스트 요약 도구 → 기능 자체는 API화 되어 차별점 사라짐
기술의 참신함보다 지속 가능성과 수익화 구조가 없는 기업은 리스트에서 빠르게 밀려났다는 점이 이번 변화의 핵심입니다.
4. 기술의 진화보다 중요한 것 – 구조화와 상용화
2025년 리스트의 전반적인 메시지는 분명합니다.
이제 AI 스타트업은 '기술을 얼마나 잘 만들었는가'가 아니라, '그 기술이 실제로 어떻게 사용되고 있는가'에 따라 평가되고 있다는 점입니다.
그동안 주목받던 기술 중심 기업이 아닌, 다음과 같은 기준을 충족한 기업들이 상위에 오르고 있습니다:
- 모델을 연결하고 조율하는 오케스트레이션 능력
- 기업 환경에서 즉시 적용 가능한 워크플로우 통합
- 고객 피드백과 성능을 실시간으로 관측하는 인프라 구성
- AI 서비스에 대한 실제 수익 모델 및 시장 반응 확보
이런 흐름은 AI 산업이 이제 기술 실험의 단계에서 '운영 최적화' 단계로 이동하고 있다는 신호입니다.
즉, 진짜 경쟁력은 모델이 아니라, 그 모델이 얼마나 잘 작동하고 잘 연결되는가에 있다는 말입니다.
5. 요약: 지금 기술보다, 어디에 쓰이느냐가 중요합니다
- ① AI Infrastructure의 비중 증가 – 기술보다 구조의 중요성이 커졌습니다
- ② Agent, Evaluation, Routing, Workflow 등 실용 기술 부상
- ③ 단일 챗봇/음성 인터페이스 기반 기업은 대거 퇴출
- ④ 수익화와 상용화 중심의 선별 기준 강화
- ⑤ 기술력보다 ‘적용성’과 ‘접점 설계’가 핵심 경쟁력
2025년 AI 100 리스트는 더 이상 AI 기술의 랭킹이 아닙니다.
지금 이 산업이 어디로 이동하고 있는지를 가장 직관적으로 보여주는 지표입니다.
기술은 발전하고 있지만, 살아남는 기업은 문제를 해결하고 실전에서 작동하는 기업입니다.
궁금증은 여기서 풀고 가세요 🔍
Q1. Agent Stack, Workflow AI, Evaluation Infra는 기존 AI 기술과 무엇이 다른가요?
기존에는 AI 모델 자체의 성능에 초점을 맞췄다면, 이들 기술군은 'AI를 실제 환경에서 어떻게 배치하고 관리할 것인가'에 더 가깝습니다. Agent Stack은 작업 지시, 연결, 실행을 조율하고, Workflow AI는 기업 내부 운영에 맞춘 자동화를, Evaluation Infra는 실시간 성능 관측을 지원합니다.
Q2. 단일 챗봇, 음성 인터페이스 등은 정말 경쟁력이 없어진 건가요?
해당 기술 자체가 무용지물이 된 것은 아닙니다. 다만, 이제는 누구나 사용할 수 있는 범용 API가 되었기 때문에, 단순 챗봇 기능만으로는 기술적 차별성이 크지 않다는 평가입니다. 기능보다는 통합성과 비즈니스 연결성이 중요한 시대로 전환되고 있습니다.
Q3. 기술보다 구조가 중요해졌다면, 스타트업은 어디에 집중해야 할까요?
AI 모델을 새롭게 개발하는 것보다, 기존 모델을 어떻게 연결하고 사용자에게 의미 있게 전달할지를 설계하는 것이 중요해졌습니다. 기술의 경계를 넘나드는 통합형 제품, 즉 '오케스트레이션 중심의 서비스'가 향후 생존 가능성을 높일 수 있습니다.
Q4. 산업 트렌드를 판단할 때, CB Insights 리스트 외에 어떤 지표를 함께 보면 좋을까요?
CB Insights 외에도 Sequoia, a16z 등 VC 리포트, GitHub trending repos, Papers with Code, Hugging Face Spaces와 같은 커뮤니티 기반 성장 지표를 참고하는 것이 좋습니다. 투자 흐름과 실제 사용자 확산을 함께 살피는 것이 중요합니다.
Q5. 이 리스트를 비즈니스 실무자는 어떻게 활용하면 좋을까요?
신규 파트너 탐색, 미래 도입 기술 로드맵 작성, 또는 기술 전략 수립 시 참고지표로 활용할 수 있습니다. 또한 기업 내부에서 '무엇이 진짜 혁신인지'를 판단하는 기준점으로 삼기에도 적합합니다.
댓글