한 줄 요약

오늘의 흐름은 “버그 수정과 메모리 관리 같은 기본기”가 작은 모델을 일상 하드웨어에서 실제로 쓰게 만들고, 한편으로는 지능이 어떻게 구조화·평가·인계되어야 하는지를 이론과 환경으로 다지는 움직임이다.

Research Papers

Nanbeige4.2-3B: 버그 수정과 메모리 절감으로 Apple Silicon에서 가동

매개변수 30억 규모의 에이전트 모델 Nanbeige4.2-3B가 배포 문제를 고치고, 한 스택의 레이어를 두 번 통과시키는 루프드 트랜스포머(Looped Transformer, LT)의 숨은 메모리 페널티를 줄여 실제 맥 환경에서 돌아가게 됐다. 표준 Transformers 경로에서 애플 메탈 성능 셰이더(Apple Metal Performance Shaders, MPS) 관련 다섯 가지 독립적 차단 요인—예를 들어 조용히 0으로 채워지는 RoPE 버퍼, 제거된 캐시 API 호출—이 확인되어 아웃오브더박스 실행을 막고 있었다. ¹

LT는 레이어를 재사용하므로 피크 주의(attention) 메모리가 사실상 두 배가 된다. 연구진은 프리필을 조각으로 나눠 넣는 ‘청크드 프리필(chunked prefill)’ 전략으로 이 피크를 낮춰, 32GB 공유 메모리의 Apple Silicon에서 사용 가능한 컨텍스트 폭을 2.7배로 늘렸다. 요컨대 프롬프트를 나눠 적재해 입력을 더 길게 받아들이게 만든 것이다. ¹

시스템 프롬프트와 MPS 고유 메모리 문제까지 패치한 뒤에는 도구 사용 평가가 가능해졌다. 모델 컨텍스트 프로토콜(Model Context Protocol, MCP) 벤치마크인 MCPMark의 일부 과제에서 완료율이 0%에서 최대 30%로 올랐고, 단일 도구 호출에서는 거의 완벽하지만 다중 도구 조합에서는 여전히 다수 실패했다. 패치된 체크포인트, 시스템 프롬프트 최적화기, 평가 하네스가 공개됐다. ¹

현장의 맥락도 이런 엔지니어링의 중요성을 뒷받침한다. 엔비디아 DGX Spark 실측 스레드에서는 엔비디아 FP4(NVFP4) 양자화 가중치에서 파일 크기와 매개변수 수 혼동, 혼합 정밀 레이아웃(예: MLP 4비트, 어텐션 FP8, 노름 및 비전 타워 bfloat16), 특정 추론 설정에서 vLLM 서버가 동시 세션에서 크래시하는 사례 등이 보고됐다. 숫자 하나(“몇 B 모델”)보다 형식·정밀도·동시성 같은 세부가 품질과 안정성을 좌우한다는 점을 보여준다. ²

대형 언어 모델에 ‘인지 모듈성’이 나타난다

이 연구는 인간 뇌처럼 대형 언어 모델(LLM)이 언어, 형식 논리, 사회적 추론, 물리적 추론 등 서로 다른 “모듈”로 스스로 조직되는지 묻는다. 네 분야에 걸친 46개 과제에서 회로 수준 분석을 수행한 결과, 인간에게서 같은 네트워크를 쓰는 과제들은 LLM에서도 중첩된 뉴런 집합을 공유했고, 다른 네트워크를 쓰는 과제들은 분리된 뉴런 집합을 동원했다. ³

생물학적 시스템과 인공 신경망의 수렴은 모듈성 조직이 우연이 아니라 지능 일반의 성질일 수 있음을 시사한다. 실무 관점에서는 단일 거대 블록을 전제로 하기보다, 영역별·기술별 하위 구조를 설계·탐사하는 접근을 뒷받침한다. ³

Apodex Discovery: 현실형 문제를 위한 ‘발견적 AI’ 환경

Apodex Discovery는 “정해진 문제 풀이”에서 “실제 조사를 수행”하는 AI로 초점을 옮긴다. 파운데이션 모델·도구·제어 정책과 공통 에피소드 인터페이스를 갖춘 중장비 솔버를 제시하고, 16개 부문 561개 산업을 조사해 423개의 고가치 문제를 수집한 뒤 20개를 1차 공개했다. HDS6(6요소 Heavy-Duty Solver 평가)은 Tools, Repair, Alternatives, Coherence, Evidence, Scope를 채점하며, 고정된 TRACES 에피소드 인터페이스가 기록과 검증을 표준화한다. ⁴

AAV 캡시드 설계에서는 생존성·조직친화성·구조 예측·생성 설계 전반에서 발표된 최고 성과를 7% 상회했다. 의약 재창출·제형 변경 과제에서는 생의학 환경이 동일 폐쇄형 백본인 GPT-5.5와 GPT-5.6-sol의 평균 정규화 예측 점수를 각각 2.5, 7.6포인트 끌어올렸다. 더 나은 환경과 인터페이스만으로도 기반 모델을 바꾸지 않고 성능을 끌어낼 수 있음을 보여준다. ⁴

고정된 에피소드 추상화(TRACES)는 엄밀한 절제 실험을 가능케 해, 성능 향상을 특정 솔버 구성요소에 귀속시키고 데이터 누수나 우연을 배제하는 데 도움을 준다. ⁴

세션을 넘어 ‘컨텍스트 학습 상태’를 어떻게 넘겨줄까

컨텍스트 한도에 다다르거나 애플리케이션이 재시작되거나 다른 에이전트가 이어받을 때, 무엇을 전달해야 할까? 이 논문은 세션 인계를 과제 상대적 컨텍스트 학습(인컨텍스트 러닝, ICL) 상태의 이전으로 정식화하고, 과거 자료의 정확한 복구와 목표 분포의 보존을 구분한다. 외생성 조건하에서 가장 조밀한 결정적 충분 인계와 그에 필요한 고정 길이 비트 수를 특성화한다. ⁵

저자들은 세 부분 기록을 제안한다. 결정과 제약은 정확히 저장하고, 반복 증거는 과제 정당화 통계를 쓰며, 그 통계로 효과가 보존되지 않는 원 관측은 그대로 남긴다. 가우시안 선형 회귀에서는 유한 차원 인계와 유한 비트 교란 경계를 주고, 비모수 회귀에서는 메모리-예측오차(제곱) 사이의 상·하한을 제공한다. 장기 작업을 세션이나 에이전트 사이에서 이어갈 때 “무엇을 얼마나 저장할 것인가”에 대한 원칙적 지침이 된다. ⁵

왜 중요한가

오늘의 결과는 실용적 신뢰성이 “플랫폼 버그 수정과 피크 메모리 절감 같은 기반 공학”에서 출발함을 보여준다. 그런 다음에야 에이전트 행동을 제대로 측정할 수 있고, 동시에 지능의 모듈성, 발견 중심 평가 환경, 세션 간 인계 이론이 갖춰질 때 일상 기기에서 믿고 쓸 수 있는 AI로 한 걸음 다가선다. ¹