Reflection, 501B 매개변수 모델 ‘Beam’ 공개 — 100만 토큰 컨텍스트

한 줄 요약

공개 가중치 모델과 도구, 기법이 실무형 에이전트로 수렴한다: Beam은 100만 토큰 컨텍스트의 초대형 모델을 열었고, Apertus 1.5는 멀티모달과 생각 모드를 더했으며, LEASH는 불확실성에 따라 강한 모델로만 넘기는 비용 효율 감독을 제시한다.

Open Source & Repos

Reflection: 501B ‘Beam’ 공개 — 100만 토큰 컨텍스트

Beam은 코딩과 에이전트 작업을 위해 설계된 공개 가중치 텍스트 모델로, 토큰마다 전체가 아닌 일부 “전문가”만 쓰는 전문가 혼합(Mixture of Experts, MoE) 구조와 100만 토큰 컨텍스트 창을 결합했다. 총 5,010억 매개변수이지만 토큰당 약 230억만 활성화되며, Apache 2.0 라이선스로 공개된 대형 언어 모델(LLM)이다. ¹

배포를 위해 bfloat16(BF16), 8비트 부동소수점(FP8), 엔비디아 4비트 부동소수점(NVFP4) 형식의 가중치를 제공한다. BF16 체크포인트는 약 1TB로, NVFP4는 이를 약 280GB로 줄인다. 출시 첫날부터 Transformers 라이브러리와 주요 추론 엔진을 지원하며, Rust 기반 하니스도 함께 제공된다. 장기 컨텍스트를 안정적으로 서비스하려면 그래픽 처리 장치(GPU) B200 네 장 구성을 권장하고, 키-값(KV) 캐시를 아홉 개 전역 계층만 전부 저장하도록 설계해 BF16 기준 100만 토큰 시퀀스당 약 36.08GiB로 억제했다. ¹

초기 벤치마크는 에이전트형 코딩과 추론에서 강점을 보인다. 예를 들어 AIME 2026은 최대 98.0%(FP8), SWE Bench Pro v2‑Hard는 최대 78.6%를 기록했고, 응답 템플릿과 전용 도구 호출 문법, “low”부터 “max”까지의 추론 강도 제어, 추측 디코딩 보조 모델을 제공한다. ¹

Artificial Analysis의 Intelligence Index에서는 점수 30으로 미국 공개 가중치 모델 중 2위에 올랐고, Cyber Index 과제 34% 완료와 과제당 약 2.6만 토큰의 출력 효율을 보였다. 한편 Terminal‑Bench 4.0은 3.0%로 약점이 확인되어 추후 개선 여부를 지켜볼 만하다. ²

Apertus 1.5: 이미지·오디오 이해와 26만 토큰 컨텍스트

Apertus 1.5는 8B·70B 공개 가중치 모델에 이미지·오디오 이해와 선택적 “생각 모드”를 추가하고, 컨텍스트 창을 262,144 토큰으로 네 배 확장했다. 가중치는 Apache 2.0과 공개 데이터·학습 세부로 배포되며, 출력은 계속 텍스트만 생성한다. ³

8B에는 4조, 70B에는 2조 토큰을 추가 학습했고, 멀티모달은 초기 융합 토크나이제이션으로 도입했다. 512×512 이미지는 1,024 토큰(Emu3.5 토크나이저), 오디오는 초당 40 토큰(WavTokenizer)으로 변환되어 아키텍처 변경 없이 텍스트 전용 속도로 훈련된다. 사후 학습은 지도 학습 미세조정(SFT) → 장문맥 SFT → 검증 가능한 보상 강화 학습(RLVR) → 직접 선호도 최적화(DPO) → 헌장 정렬(SDPO) 순으로 진행한다. ³

Apertus 1.5는 재현 가능한 평가를 강조한다. Every Eval Ever(EEE) 스키마로 결과를 공개하고, 유럽연합 AI 법(EU AI Act) 제55조와 GPAI 실무준칙의 보고 요구와 매핑해 60개 요소 중 56개를 포괄했다고 밝혔다. 중간 체크포인트와 데이터 믹스도 공개되어 동일 조건 재현과 소거 실험이 가능하다. ³

Mastra: 멀티테넌시를 위한 Agent Scopes 도입

Mastra는 AI 애플리케이션과 에이전트를 위한 현대적 TypeScript 프레임워크이며, 1.78.0 릴리스에서 멀티테넌트 신원과 더 안전한 메모리/스레드 라우팅을 위한 Agent Scopes를 도입했다. 에이전트는 이제 “:” 형태의 스코프를 호출 단위, 에이전트 설정, 신뢰된 미들웨어의 MASTRA_SCOPES_KEY 주입 등 세 경로로 받아들이며 Mastra가 이를 병합한다. ⁴

이번 업데이트는 운영 환경의 에이전트 앱에서 기본적으로 상태를 올바른 테넌트로 라우팅하도록 돕는다. 릴리스는 2026-10-16자로 태깅되었고, 저장소에는 패키지·문서·커뮤니티 링크가 포함되어 있다. ⁴

Research Papers

LEASH: 불확실성 기반 약→강 에스컬레이션과 감독

LEASH는 별도 학습 없이 작은 “약한” 에이전트가 기본 수행을 맡고, 필요할 때만 강한 모델로 넘긴 뒤에도 그림자 관찰자로 계속 감독하는 프레임워크다. 약한 모델의 은닉 상태를 과거 성공·실패 궤적과 비교해 불확실성을 추정하고, 이 신호로 초기 라우팅·실행 중 단계별 에스컬레이션·인계 후 감독의 세 층을 작동시킨다. ⁵

OSWorld에서 LEASH는 단독 약한 에이전트보다 일관되게 향상됐고, 같은 에스컬레이션 비율에서 무작위 에스컬레이션 대비 6.55–11.94포인트 앞섰다. Qwen3.5‑35B‑A3B 조합에서는 과제당 0.4117달러로 73.66% 성공률을 달성해, 항상 강한 모델을 쓰는 Claude Opus 5(72.90%)와 비슷한 성능을 비용 19.2% 절감과 함께 구현했다. ⁵

왜 중요한가

초대형 공개 가중치가 실사용 구성 요소로 빠르게 다듬어지고 있다. Beam은 장문맥과 희소 MoE를 도구·하니스 생태계와 묶었고, Apertus 1.5는 멀티모달과 재현 가능한 평가를 결합했다. LEASH는 불확실성 기반 에스컬레이션으로 성능과 비용의 균형을 보여준다. 세 흐름은 투명성과 운영 효율을 갖춘 에이전트 시스템으로의 진전을 가리킨다. ¹