이번 주 한 줄

긴 컨텍스트와 저비용이 전면에 섰다—구글은 메모리를 6배 줄였고, 엔비디아는 100만 토큰 창을 연 모델을 공개했으며, 음성 모델은 기기 내 실시간에 근접했다; 워싱턴은 국가 AI 프레임워크를 띄웠고 자율·에이전트 분야로 큰 자금이 몰렸다.

이번 주 숫자

• 6배 — 구글 TurboQuant가 추론 KV 캐시를 6배 줄이고 일부 테스트에서 어텐션 계산을 최대 8배까지 가속했다고 보고, 같은 GPU에서 더 싼 서빙과 더 긴 컨텍스트 가능성을 시사했다. ^{1 2}
• 100만 토큰 — 엔비디아 Nemotron 3 Super가 에이전틱 워크로드를 위해 100만 토큰 컨텍스트를 열고, Mamba‑2와 트랜스포머 어텐션을 교차 배치해 긴 히스토리의 일관성을 유지한다. ³
• 100억 달러 — OpenAI가 약 100억 달러 규모 라운드 마감을 앞두고 있어, 그간 가장 큰 AI 자본 스택 중 하나를 더 키우며 제품 출시에 속도를 붙이고 엔터프라이즈 공략을 강화할 전망이다. ⁴
• 2GW — AWS가 OpenAI에 2GW 규모의 Trainium 컴퓨트를 약속하며, 추론 비용 절감을 위한 아마존 맞춤형 실리콘 드라이브의 이면을 엿보게 했다. ⁵
• 20억 달러 — Shield AI가 시리즈 G 15억 달러와 우선주 5억 달러를 조달하고 Aechelon 인수를 추진, 국방 AI를 위한 시뮬레이션과 자율성을 통합한다. ⁶

TOP 뉴스

• 구글 TurboQuant, 품질 저하 없이 AI 메모리 6배 압축 — PolarQuant와 양자화된 존슨–린덴스트라우스 잔차로 이뤄진 두 축의 기법으로 KV 캐시를 최저 3비트까지 압축하면서, Gemma·Mistral 기반 장문 컨텍스트 평가에서도 다운스트림 품질을 유지했다고 소개했다. 초기 결과는 약 6배 메모리 절감과 H100 특정 커널에서 최대 8배 어텐션 경로 가속을 가리킨다. 단, 추론 시점 캐시 최적화이기에 런타임 통합 없이는 프로덕션 임팩트가 제한적이다. ^{2 1}
• 엔비디아, Nemotron 3 Super 공개: 120B MoE를 12B처럼, 100만 토큰 창 — Mamba‑2 상태공간 레이어와 트랜스포머 어텐션을 교차 배치하고, 잠재 MoE 라우팅으로 토큰당 약 120.6B 중 12.7B 파라미터만 활성화하며 4비트 NVFP4로 네이티브 학습했다. 전작 대비 최대 5배 처리량, 커뮤니티 런북 기준 B200에서 1초당 478토큰, Q4 양자화 시 H100‑80GB 한 장에 중간 길이 콘텍스트를 올릴 수 있다고 한다. 오픈 웨이트·데이터셋·레시피로 실제 워크플로에서 100만 토큰 메모리를 시험하기가 쉬워졌다. ^{3 7}
• 마이크로소프트, Phi‑4‑reasoning‑vision‑15B 공개: 콤팩트 멀티모달 추론, 엣지 친화 레시피 — 15B 파라미터의 오픈 웨이트 모델로, Phi‑4‑Reasoning 백본에 SigLIP‑2 동적 해상도 인코더를 미드‑퓨전으로 결합했다. 약 200B 멀티모달 토큰과 Phi 계열 언어 데이터로 학습해 ChartQA, MathVista, MMMU, ScreenSpot 서브셋에서 훨씬 큰 시스템과 맞먹는 성능을 더 적은 계산/토큰으로 낸다. 고해상도·GUI 과제를 지연이나 토큰 수 급증 없이 끌어올리려는 팀에 적합하다. ⁸
• OpenAI, 100억 달러 조달 임박… 엔터프라이즈 집중 강화 — MGX·Coatue·Thrive가 공동 리드하고 마이크로소프트가 참여하는 약 100억 달러 라운드가 마감 단계이며, 일부 보도는 7,300억 달러 프리·8,500억 달러 포스트 밸류에이션을 거론한다. 이 자본은 GPU·인재·고투마켓 시간을 사들이며 ‘슈퍼앱’ 통합과 엔터프라이즈 예산 공략을 가속한다. 바이어에겐 더 빠른 기능 출시, 더 깊은 MS 연동, 소비자 광고형부터 프리미엄 업무 에이전트까지 계층형 상품을 예고한다. ^{4 9}
• 백악관, 전국 AI 정책 프레임워크 제안—완전 선점 아닌 ‘라이트’ 연방 우선, 초규모 규제기관은 생략 — 7개 축(아동 안전·연령 확인, 커뮤니티 보호(요금제 보호 포함), IP·디지털 복제, 표현의 자유, 샌드박스·연방 데이터셋을 통한 혁신, 인력 스킬링, 과도한 주(州) AI 법에 대한 표적 연방 선점)으로 입법 청사진을 내놨다. 단기적으로는 주 소비자법 준수를 이어가되, 소스 문서화·필요 시 연령 확인·복제/IP 워크플로 등 ‘연방 대응’ 거버넌스 기준을 준비하면 추후 주간 규제 상이점을 완화할 수 있다. ^{10 11}
• Arm, 에이전틱 AI용 데이터센터 AGI CPU 공개… 초기 파트너에 메타 포함 — TSMC 3nm 기반의 ‘AGI CPU’를 공개하며, GPU 주변에서 계획·툴 사용·메모리 등 오케스트레이션이 무거운 워크로드를 겨냥한다. 향후 5년 내 연매출 약 150억 달러를 노리며 고객사로 메타, OpenAI, 클라우드플레어, SAP, SK텔레콤을 언급했다. 소프트웨어 지원이 받쳐 주면 CPU가 GPU를 포화시키고 테일 레이턴시를 줄이는 ‘관제탑’ 역할로 CPU/GPU 비중을 재편할 수 있다. ^{12 13}
• 데이터브릭스, Lakewatch 출시와 Antimatter·SiftD 인수… 레이크하우스에 SIEM급 보안 도입 — Anthropic Claude 에이전트가 구동하는 Lakewatch로 보안팀이 레이크하우스 내에서 직접 위협 탐지·조사를 수행해 데이터 중복과 전통 SIEM 수집 비용을 줄이게 한다. 두 건의 인수는 데이터 컨트롤 플레인(Antimatter)과 사람+에이전트 합동 조사 노트북(SiftD)을 더한다. 이미 텔레메트리가 데이터브릭스에 있다면 AI 보안 가시성·감사를 그 자리에서 구현하는 실용적 경로가 된다. ^{14 15}
• OpenAI, 바이럴 영상 앱 Sora 종료… 엔터프라이즈에 재집중 — 전략적 전환을 이유로 Sora 서비스를 중단하며 사용자 창작물 보존 가이던스를 약속했다. 딥페이크 모더레이션 부담에 더해 높은 연산 비용과 불투명한 수익화로 소비자 앱은 비용 대비 효과가 낮았다는 판단이다. 마케터와 크리에이터는 자산을 이전하고 출처·편집 통제가 가능한 엔터프라이즈급 영상 도구로 표준화하길 권한다. ^{16 17}
• Mistral의 Voxtral TTS, 오픈·다국어·온디바이스 음성 합성… 첫 오디오 ~90ms — 오토리그레시브 의미 토큰과 플로우 매치된 어쿠스틱 토큰을 하이브리드 VQ‑FSQ 코덱으로 결합했다. 웨어러블·폰용 실시간 보조자를 겨냥하며, 다국어 보이스 클로닝에서 ElevenLabs Flash v2.5 대비 68.4% 인간 선호 우위를 보고하고 5초 미만 음성으로 보이스 적응이 가능하다. 가중치는 CC BY‑NC로 공개되어 프로토타입엔 적합하나 상업 이용 전 라이선스 확인이 필요하다. ^{18 19}
• Shield AI, 20억 달러 조달 및 Aechelon 인수 추진… 시뮬레이션 내 자율성 가속 — 시리즈 G 15억 달러와 우선주 5억 달러를 확보하고, 미 국방부 합동 시뮬레이션 환경에 쓰이는 시뮬레이션·합성현실 제공사 Aechelon 인수 계획을 발표했다. 고정관념을 깨는 ‘소프트웨어 우선’ 국방 논지로, 고충실도 시뮬레이터에서 자율 ‘AI 파일럿’을 훈련하고 운용 데이터로 루프를 조인다. 이중용도 빌더에겐 시뮬레이션·자율 스택·도메인 특화 기초모델 예산이 커지는 신호다. ^{6 20}
• Anthropic ‘Mythos/Capybara’ 유출, AI 가속 사이버 리스크와 점진 출시 전략에 스포트라이트 — 공개 검색 가능한 잘못 설정된 캐시로, 내부 최상위 모델로 묘사된 ‘Mythos’와 코드·학술 추론·사이버 보안에서 Claude Opus 4.6을 넘는 새 ‘Capybara’ 티어를 설명한 초안 블로그가 노출됐다. Anthropic은 고비용·이중용도 리스크를 이유로 신중한 출시와 얼리 액세스 테스트를 확인했다. 방어자에겐 공격 도구의 고도화를 전제로, 연속 코드 스캔과 패치 파이프라인을 강화하라는 메시지다. ²¹

이번 주 트렌드 분석

이번 주를 관통한 키워드는 효율이었다. 구글 TurboQuant는 추론 메모리를 정면 공략해 품질 저하 없이 KV 캐시 6배 축소를 보고했고, 엔비디아 Nemotron 3 Super와 마이크로소프트 Phi‑4‑reasoning‑vision‑15B는 아키텍처(Mamba+MoE, 동적 해상도 미드‑퓨전)와 학습 레시피만으로 장문 컨텍스트와 강한 멀티모달 정합을 ‘규모의 폭력’ 없이 끌어낸 사례를 보여줬다. 총평은 ‘스케일보다 구조’—같은 하드웨어와 토큰 예산에서 더 많은 효용을 뽑아내는 경제성이다. ^{2 3 8}

인프라와 자본도 이 효율 드라이브에 맞춰졌다. AWS는 Trainium 랩 플레이북을 공개하고 OpenAI에 2GW 용량을 약속했으며, Arm은 IP 라이선스를 넘어 에이전틱 AI의 ‘관제탑’을 자임하는 데이터센터 CPU를 내놨다. 비즈니스 측면에선 OpenAI의 추가 100억 달러 조달이 더 빠른 반복과 엔터프라이즈 친화 SKU를 예고한다. 바이어 관점의 결론은 비용·지연·오케스트레이션을 더 정밀하게 튜닝할 수 있는 레버가 늘고, 단순 GPU 개수 대신 CPU–GPU 공조를 벤치마크해야 한다는 점이다. ^{5 12 4}

안전과 거버넌스도 성숙해지는 흐름이다. 워싱턴은 표적 연방 선점을 동반한 라이트한 연방 기준의 국가 AI 프레임워크를 제안했고, OpenAI는 개발자가 앱에 바로 꽂아 넣을 수 있는 ‘청소년 안전’ 정책 팩을 공개했다. 동시에 데이터브릭스는 에이전트 신뢰성을 강화할 두 스타트업을 인수하고 Lakewatch를 출범, 레이크하우스에 AI 보안을 들여오며 평가·관측·정책 골조가 배포의 표준 요소로 자리 잡고 있음을 보여준다. ^{10 22 14}

끝으로 실시간 보이스와 보안 시그널이 선명해졌다. Mistral의 Voxtral TTS와 Cohere의 Transcribe는 지연이 낮고 다국어 도달 범위를 갖춘 온디바이스·셀프호스팅 음성 스택을 지향했고, Anthropic ‘Mythos/Capybara’ 유출은 사이버 시장을 자극하며 보안 영향이 큰 프런티어 모델의 점진적 출시 원칙을 재확인시켰다. 팀에는 두 축의 병행 과제가 생긴다—실시간 사용자 경험 경쟁과, AI 시대 SDLC 기본기(SBOM, 의존성 거버넌스, 신속 패칭) 강화다. ^{18 23 21}

주목할 포인트

• NVFP4 네이티브 모델 확산 시 프레임워크 지원과 토큰당 과금 구조 변화가 동반될 수 있다—조기 지원 여부를 확인하자. ³
• ‘Preemption(선점)’은 연방 차원에서 특정 주(州) AI 법을 덮는 표적적 우선권을 뜻한다—법제화 전까지는 주 단위 컴플라이언스가 기본이다. ¹⁰
• ‘Capybara/Mythos’는 공격·방어 도구셋에 모두 영향을 줄 고급 능력을 시사—공식 출시나 제한적 롤아웃이 생태계를 바꿀 수 있다. ²¹

이번 주 오픈소스

• Omni‑WorldBench — 4D 상호작용 중심 벤치마크/메트릭으로, 모델의 행동이 시간에 따라 그럴듯한 상태 변화를 유발하는지 점수화한다—로보틱스·시뮬레이션 연구자에게 유용. https://github.com/AMAP-ML/Omni-WorldBench ²⁴
• SpecEyes — 신뢰 기반 게이팅으로 불필요한 툴 호출을 건너뛰어 멀티모달 에이전트를 1.1×–3.35× 가속하는 추론·지각 스펙ulative 기법 코드와 평가. https://github.com/MAC-AutoML/SpecEyes ²⁵
• larksuite/cli — Lark/Feishu 전반(Messenger, Docs, Sheets, Calendar)에 200+ 명령과 19개 AI 에이전트 스킬을 갖춘 에이전트 네이티브 CLI—사내 자동화·엔터프라이즈 에이전트 프로토타입에 적합. https://github.com/larksuite/cli ²⁶
• Open Multi‑Agent — 에이전트 팀·툴·태스크 DAG를 정의하고 에이전트 간 메시징·병렬 실행을 제공하는 TypeScript 프레임워크—복합 AI 워크플로의 프로덕션 적용에 유용. https://github.com/JackChen-me/open-multi-agent ²⁷

이번 주 해볼 것

1. OpenAI의 Teen Safety Policy Pack 통합: 프롬프트 기반 규칙을 모더레이션 파이프라인에 넣고 롤아웃 전 역할극·탈옥 등 적대적 테스트로 기준 안전선을 설정하자. ²²
2. Trainium 비용/지연 벤치오프: 추론 비중이 큰 모델 하나를 AWS Trainium(Trn2/Trn3)으로 포팅해 TTFB, 토큰/초, 1K 토큰당 비용을 기존 GPU 경로와 비교하자. ⁵
3. 온디바이스 보이스 프로토타입: Mistral Voxtral TTS를 로컬로 실험해 보조자 플로우 1건의 종단 간 지연을 측정하자; 상업 계획이 있다면 CC BY‑NC 제한을 유의. ^{18 19}
4. TurboQuant 기본기 학습: 팀과 함께 해설을 읽고, 스택에서 KV 캐시가 서빙 비용을 지배하는 지점을 찾은 뒤 캐시 압축으로 이길 수 있는 후보 엔드포인트를 목록화하자. ²
5. 레이크하우스 네이티브 위협 트리아지 파일럿: 데이터브릭스를 쓰고 있다면 1주일치 클라우드/아이덴티티 로그를 적재해 Claude 보조 트리아지 노트북을 구성하고, SIEM 기준 대비 MTTR 개선을 비교하자. ¹⁴