이번 주 한 줄

알리바바가 Qwen3.8‑Max(2.4T)를 공개했고, 구글은 딥마인드 리더십을 재편했으며, AMD는 모델 특화 칩을 위해 Taalas를 인수하고, Volta는 100억 달러 규모 컴퓨트 계약을 체결했다 — 역량은 커지는 한편 일상적 AI 업무를 위한 비용 통제와 인프라 선택은 더 날카로워졌다.

이번 주 숫자

• 2.4T — 알리바바의 새 플래그십 모델 Qwen3.8‑Max 파라미터 수. ¹
• 950M+ — 구글 딥마인드 리더십 개편과 함께 언급된 Gemini 앱의 월간 사용자 수. ²
• 100억 달러 — Volta Infra가 유럽의 한 AI 파트너와 체결한 장기 컴퓨트 계약 규모. ³
• 2.19억 달러 — AMD가 인수에 나선 Taalas가 2023년 이후 조달한 누적 자금. ⁴
• $0.14 — DeepSeek V4‑Flash의 입력 100만 토큰당 가격(출력: $0.28). ⁵
• 600B — Rippling이 7월 처리한 토큰 수(4월 대비 지출 37% 수준). ⁶
• 2.8T — SGLang이 데이‑0 지원으로 서빙 가능한 Kimi K3의 파라미터 규모(컨텍스트 1M‑토큰). ⁷

TOP 뉴스

구글, 딥마인드 리더십 재편… Gemini 도달 범위 강조

구글은 Demis Hassabis를 Google DeepMind 의장 겸 Alphabet 최고과학자로 임명하고, Koray Kavukcuoglu를 Sundar Pichai에게 보고하는 Google DeepMind 수석부사장(SVP)으로 승진시켰다. 내부 메모는 Gemini 모델과 프런티어 연구에 대한 지속적 집중을 강조하며, Gemini 앱의 월간 사용자 수가 950M+이고 검색, 유튜브, 클라우드 전반에서 모멘텀이 이어진다고 밝혔다. 비전문가 관점에서는 Gemini 기능이 소비자·업무 환경으로 더 빠르게 탑재될 것임을 시사한다. 프런티어 연구 리더십을 공고히 하면서 제품 가속 신호를 묶어낸 재정렬이다. ²

알리바바, Qwen3.8‑Max(2.4T) 공개… 미중 모델 경쟁 속 존재감 부각

알리바바는 2.4조 파라미터의 Qwen3.8‑Max를 공개하며 서구권 최상위 모델과 경쟁 가능한 벤치마크 성능을 주장했다. 보도에 따르면 1M‑토큰 컨텍스트와 초기 리더보드 상위권 진입이 확인됐고, 공개 직후 알리바바 홍콩 상장 주가는 7% 상승했다. 독립 분석은 토큰당 일부 전문가만 활성화하는 Mixture of Experts(MoE) 설계를 설명하며, 표면적 파라미터 수 대비 추론 비용을 제어한다고 해석했다. 또한 오픈 웨이트 공개 시점과 라이선스(8월 10일 예정)가 도입의 핵심 변수로 지목됐다. 팀 입장에서는 신뢰도 있는 장문 컨텍스트 옵션이지만, 라이선스와 과제 적합성 검증이 필요하다는 의미다. ^{1 8 9}

Volta, 24억 달러 가치 평가에 100억 달러 컴퓨트 계약 발표

설립 7개월 차 AI 인프라 기업 Volta Infra가 유럽에서 클라우드 컴퓨트를 공급하는 100억 달러 규모의 계약(Bitdeer와 협력)을 발표했다. 핵심 자산은 노르웨이 133 MW 규모 사이트이며 Nvidia의 Vera Rubin 칩을 사용할 예정이다. 투자사 a16z는 Volta를 프로젝트 파이낸스와 클라우드 운영을 결합해 AI 네이티브 고객에게 새로운 GPU 공급을 여는 “네오클라우드”로 규정했다. 수요자에게는 하이퍼스케일러 외 조달 경로 다변화와 지역별 용량 분산 가능성을 시사한다. 정확한 거래 상대방은 타 매체에 보도됐으나 로이터는 독립적으로 검증하지 못했다. ^{3 10}

AMD, Taalas 인수… 모델 특화 하드와이어드 추론 칩 확보

AMD는 특정 모델에 최적화해 비용·지연 시간을 낮추는 하드와이어드 가속기를 만드는 Taalas 인수에 합의했다. 보도에 따르면 Taalas는 2023년 이후 2.19억 달러를 조달했으며, 약 두 달 만에 새로운 모델을 실리콘으로 구현할 수 있다고 주장한다. AMD는 해당 기술을 자사 CPU와 Instinct GPU alongside에 통합할 계획이다. 추천·UI 어시스턴트 등 지연 시간 민감 워크로드에서 범용성 일부를 속도·효율로 교환하는 전략이 유효할 수 있다. 이번 인수는 랙 스케일 시스템과 파트너십에 걸친 광범위한 행보의 연장선이다. ^{4 11}

DeepSeek V4‑Flash, 실행 비용 최저권 모델로 부상

로이터가 인용한 연구에 따르면 DeepSeek V4‑Flash의 입력 100만 토큰당 비용은 $0.14, 출력은 $0.28이며, 평균 테스트 비용은 약 $0.03로 경쟁 모델 대비 크게 낮다. 성능은 구글 Gemini 3.6 Flash와 비슷한 수준이지만 OpenAI와 Anthropic의 제품에는 미치지 못하는 것으로 보고됐다. 팀 입장에서는 과제별 라우팅(초안 작성 vs. 심층 추론)만으로도 워크플로를 바꾸지 않고 큰 비용 절감을 얻을 수 있음을 재확인한다. 조달에서는 태스크 단위 총런코스트를 따지는 가격 경쟁이 한층 격화되고 있다. ⁵

Rippling, 월 600B 토큰 사용 속 ‘AI 지출 콘솔’ 출시

Rippling은 직원·도구별 사용량 추적, 지출 상한, 프롬프트를 비용 효율적 모델로 라우팅하는 AI 게이트웨이를 제공하는 AI 지출 콘솔을 출시했다. TechCrunch에 따르면 전체 지출의 약 60%를 직원 10–15%가 만들었고, 한 엔지니어는 월 $50,000을 쓰기도 했다. 거버넌스와 벤더 상한 적용 이후 7월 총 사용량은 600B 토큰으로 늘면서도 비용은 4월의 37%로 낮췄다. 비전문가에게는 모범 사례가 명확하다: 과제별 기본값 설정, 사용자별 한도, 토큰당 산출 측정. 해당 콘솔은 Rippling HR 고객에게 번들로, 그리고 독립 제품으로 제공된다. ⁶

Cloudflare, 자연어 인터넷 데이터 질의 ‘Radar Researcher’ 출시

Cloudflare는 자사 네트워크 텔레메트리에 AI 인터페이스를 입힌 Radar Researcher를 선보였다. 사용자는 자연어로 질문하고 답변과 차트를 얻을 수 있다. SQL 작성이나 대시보드 구축 없이 인터넷 트렌드 시각화가 필요한 커뮤니케이션·운영·보안 팀을 겨냥했다. 주간 리포트와 이해관계자 업데이트에 신뢰 가능한 데이터로 바로 연결되는 지름길이다. 네트워크 규모 인사이트의 접근성을 넓히려는 Cloudflare의 행보를 확장한 도구다. ¹²

Argus 런타임: 절차·검증으로 에이전트 신뢰도 상승 입증

새 논문은 장기 지평선 에이전트를 위해 지속 상태를 유지하고 검증을 통해 업데이트를 게이트하는 자기진화 런타임 Argus를 소개한다. 고정된 모델 웨이트로 SWE‑Bench Pro에서 약 78%를 기록했으며, 베이스라인 59% 대비 성능을 내면서 토큰은 1.41× 사용했다. 재시작을 피하게 하는 실제 복구·구제 사례도 문서화했다. 빌더에게 주는 메시지는 명확하다: 파라미터만 키우기보다 LLM을 구조와 체크로 감싸라. 실세계 아티팩트의 업스트림 머지 및 수일에 걸친 캠페인도 상세히 다룬다. ¹³

KVAE, 오디오·이미지·비디오 통합 토크나이저 공개

KVAE는 오디오·이미지·비디오를 LDM(Latent Diffusion Modeling)에 맞는 잠재표현으로 변환하는 콤팩트 토크나이저를 제시했다. 여러 공개 VAE 베이스라인을 다양한 시스템에서 대등하거나 능가하는 재구성·생성 품질을 보고한다. 모달리티별로 하나의 토크나이저 계열만 쓰면 파이프라인이 단순해지고 학습도 빨라질 수 있다. 코드와 어블레이션을 공개해 재사용 가능한 빌딩 블록으로 포지셔닝했다. 멀티모달 생성을 탐색하는 팀에 배관 복잡도를 낮춰준다. ¹⁴

SGLang, 2.8T MoE·1M 컨텍스트 모델 ‘데이‑0’ 서빙 지원

고성능 서빙 프레임워크 SGLang이 Kimi K3에 대한 데이‑0 지원을 발표했다. 2.8T 파라미터의 멀티모달 MoE 모델로 1M‑토큰 컨텍스트와 선형 어텐션 레이어를 갖춘다. 데이‑0 준비성은 웨이트나 엔드포인트가 공개되는 즉시 벤치마크·프로토타입을 빠르게 시작할 수 있게 한다. 장문 문서·스트리밍 활용에 대해 서빙 스택이 프런티어 규모를 따라잡고 있음을 보여준다. ⁷

이번 주 트렌드 분석

프런티어 규모와 장문 컨텍스트 역량이 진전하는 동시에, 딜리버리를 중심으로 리더십과 툴링이 조여졌다. 알리바바의 2.4T Qwen3.8‑Max와 SGLang의 2.8T MoE·1M 컨텍스트 데이‑0 지원은 매우 큰 멀티모달 모델을 소화하려는 스택의 확장을 보여준다. 동시에 구글의 리더십 재편은 Gemini의 다음 장에 대한 책임과 실행력을 집중시킨다. 실무자에게 이는 시·분 단위가 아닌 ‘시간’ 단위 문서와 혼합 미디어 과제를 다룰 믿을 만한 선택지가 늘어났음을 의미한다. ^{1 7 2}

비용과 거버넌스는 전면으로 올라왔다. DeepSeek V4‑Flash의 가격($0.14/입력 100만 토큰)은 루틴 작업을 더 저렴한 모델로 라우팅할 유인을 키우고, Rippling의 수치(7월 600B 토큰, 4월 대비 비용 37%)는 사용자별 상한과 모델 게이트웨이가 사용량을 줄이지 않고도 지출을 억제할 수 있음을 보여준다. 공급 측면에서는 Volta의 100억 달러 계약과 프로젝트 파이낸스 프레이밍이 하이퍼스케일러 밖의 GPU 조달 경로 확대를 시사한다 — 용량 계획이나 지역 중복을 검토하는 이들에게 중요한 맥락이다. ^{5 6 3 10}

에이전트 스택과 멀티모달 배관은 한층 실용적으로 변했다. Argus는 지속 상태와 검증을 갖춘 런타임만으로도 새 웨이트 없이 성공률을 끌어올릴 수 있음을 보였다. KVAE는 오디오·이미지·비디오 토크나이저를 표준화해 코어 컴포넌트를 단순화한다. 여기에 코드‑애즈‑툴스 접근인 Programmatic Tool Calling(PTC)을 더하면 — 다수 모델에서 JSON 스키마와 비등하거나 능가 — 학습·재사용·평가가 더 효율적인 시스템 패턴으로 수렴한다. ^{13 14 15}

주목할 포인트

• "Qwen3.8‑Max 오픈 웨이트와 라이선스" — ByteIota는 오픈 웨이트 공개가 8월 10일로 예정됐다고 전한다. 라이선스 조건은 셀프 호스팅·파인튜닝 가능성을 좌우할 것이다. ⁹
• "AI 게이트웨이와 사용자별 상한" — 더 많은 벤더가 Rippling식 제어를 내놓는다면, 과제별 모델 라우팅이 조달의 표준 위생 요소가 될 가능성이 높다. ⁶
• "네오클라우드 컴퓨트 계약" — Volta와 같은 장기·지역 특화 GPU 딜이 늘면 하이퍼스케일러 밖에서 분산된 용량이 형성되고 있음을 의미한다. ³

이번 주 오픈소스

• vLLM — LLM을 위한 고처리량·메모리 효율 서빙; 배칭 수작업 없이 추론을 프로덕션화하는 실용적 경로. 프로토타입을 안정적 엔드포인트로 옮기는 팀에 적합. vllm-project/vllm
• Ray — AI 학습·추론을 스케일하는 분산 런타임과 라이브러리; 임시 스크립트를 이어 붙이지 않고 병렬화를 구현. 분산 컴퓨트에 익숙하지 않은 파이썬 팀에 유용. ray-project/ray
• SGLang — Kimi K3 같은 초대형·장문 컨텍스트 모델에 대한 데이‑0 지원을 갖춘 고성능 서버; MoE·스트리밍 워크로드 테스트에 도움. sgl-project/sglang
• DataSpace benchmark — CSV/JSON/SQLite/PDF/비디오 등 혼합 파일 타입에서 검증 가능한 데이터‑에이전트 태스크; 검색‑결합 에이전트를 종단간 평가하기에 적합. arxiv:2608.03451

이번 주 해볼 것

1. 빠른 비용 모델 만들기: 실제 프롬프트 5개를 택해 DeepSeek V4‑Flash의 100만 토큰당 가격을 저가 베이스라인으로 삼아 월간 지출을 추정해보자. ⁵
2. 이해관계자용 차트 생성: Cloudflare의 Radar Researcher에 비즈니스 관련 인터넷 트렌드 질문을 던지고 시각화를 내보내 보자. ¹²
3. 장문 컨텍스트 실험: SGLang README를 따라 로컬 모델을 서빙하고, 다페이지 프롬프트로 속도와 안정성을 점검하자. ⁷
4. Argus 초록·결과 훑기: 지속 상태와 검증이 에이전트 성공률을 어떻게 높였는지 메모하고, 팀 내부 봇에 추가할 수 있는 런타임 체크 한 가지를 정리하자. ¹³