한 줄 요약

오늘의 흐름은 ‘구조’다: 학습 데이터의 서사 구조를 계량하고, 장문 검색과 에이전트 메모리를 조직화하며, 고정밀 아바타를 더 빠르게 만드는 연구가 발표됐다. 여기에 실무형 코딩 에이전트 업데이트가 더해졌다.

Research Papers

NarraBERT·NarraDolma: 웹 규모 학습 데이터의 서사 구조 측정

논문 ‘Characterizing Narrative Content in Web-scale LLM Pretraining Data’는 대형 언어 모델(LLM) 학습에 쓰이는 웹 텍스트 안의 이야기적 성질 — 누가, 어디서, 무엇을 하는가 — 를 분석한다. 연구진은 3조 토큰 규모의 돌마(Dolma) 말뭉치에서 행위자(agency)·배경(setting)·사건(events)을 아우르는 11개 차원 프레임워크를 설계하고, 예측기 NarraBERT와 주석 데이터셋 NarraDolma를 공개한다. ¹

연구팀은 400개 발췌를 세밀히 주석한 뒤 RoBERTa 기반 분류기를 미세조정해 서사 특성을 정밀 예측하고, 이를 300만 개 발췌에 적용했다. 그 결과 서사 구조는 대규모로 측정 가능하며 연속적·다차원 공간을 이루고, 소스와 주제별 분포가 고르지 않아 현재의 큐레이션 관행이 이를 포착하지 못한다고 보고한다. ¹

의의: NarraBERT와 NarraDolma는 학습 데이터의 서사 구성을 계량하는 실무 도구를 제공해, 데이터 선택이 서사 추론 과제에 미치는 영향을 연구하고 데이터 파이프라인에 서사 지표를 도입할 기반을 마련한다. 두 자원은 공개된다. ¹

SproutRAG: 주의 기반 문장 트리로 장문 RAG 검색

SproutRAG는 검색 증강 생성(Retrieval-Augmented Generation, RAG)이 장문 문서를 다루는 방식을 개선한다. 문장 간 주의를 학습해 이진 트리를 구성하고, 추가 LLM 호출이나 요약으로 인한 정보 손실 없이 다중 수준 단위로 검색한다. ²

모델은 어떤 주의 헤드가 문서 구조를 잘 포착하는지 종단 간 학습하며, 질의 시 계층 빔 서치를 쓴다. 과학·법률·개방형 등 4개 벤치마크에서 정보 효율(Information Efficiency, IE)이 가장 강한 기준선 대비 평균 6.1% 향상되었다고 보고하며, 코드 공개를 명시한다. ²

MemSlides: 개인화 프레젠테이션용 계층형 메모리 에이전트

MemSlides는 개인화 슬라이드 생성을 위해 지속 선호(장기 메모리), 세션 제약(작업 메모리), 도구 사용 노하우(툴 메모리)를 분리하고, 전체 슬라이드를 다시 만들지 않고 슬라이드 국소 영역만 수정한다. ³

실험에서 사용자 프로필 메모리는 페르소나 정합을 높였고, 툴 메모리 주입은 폐쇄 루프 수정 동작을 개선했으며, 사례 분석은 다회 수정에서 선호가 이어짐을 보여준다. 이는 개인화가 메모리 유형의 분리와 범위 제한된 국소 업데이트에 달려 있음을 시사한다. ³

SpatialAvatar-0: 다단계 재구성으로 고품질 4D 아바타

SpatialAvatar-0는 3차원 가우시안 스플래팅(3DGS)을 활용해 한두 장의 초상만으로 고품질 4D 머리 아바타를 생성한다. 피드포워드 예측기와 개인별 정제기의 강점을 공유되는 메시 기반 가우시안 표현 아래에서 접합한다. ⁴

단안-시간→다시점-공간의 2단계 스케줄과 매개변수 없는 K-소스 평균 풀링으로 정체성 붕괴를 막고, 개인별 정제는 1만 회 반복 루프로 상위 레이아웃을 보존하며 밀도 증가 대신 안티-스파이크 정규화를 적용한다. 이로써 통상 30만~60만 회 반복 기준선 대비 반복 횟수를 크게 줄인다. ⁴

크로스 도메인 제로샷 평가에서 동종 최고 모델 대비 피크 신호대잡음비(PSNR)가 1.5 dB 높았고, 단안 벤치마크에서는 모든 보고 지표에서 선두를 보이며 GeoAvatar 대비 1.3 dB PSNR 향상과 최대 60배 짧은 개인별 정제 스케줄을 보고한다. ⁴

Open Source & Repos

Forge: 터미널 코딩 에이전트, 300+ 모델 지원

Forge는 터미널에서 동작하는 AI 페어 프로그래머로, 개발 환경에 통합되어 Claude, GPT, O Series, Grok, Deepseek, Gemini 등 300개 이상 모델과 연결한다. README는 개발 워크플로를 보조하는 종합 코딩 에이전트로 소개한다. ⁵

2026-06-22 공개된 v2.13.13 릴리스에는 Fireworks AI 모델을 최신 서버리스 카탈로그와 동기화하는 공급자 수정과 러스트 의존성 업데이트가 포함된다. README에는 원라인 설치 방법도 안내되어 있다. ⁵

왜 중요한가

오늘 소개한 연구들의 공통점은 ‘구조’다. 학습 데이터의 서사(행위자·배경·사건)를 계량하면 학습 전 데이터의 균형을 점검할 수 있고, 계층형 검색은 장문 질의응답의 문맥 낭비를 줄이며, 메모리 분리는 전체 재생성 없이 개인화를 안정화한다. 학습자 관점에서는 agency/setting/events, 계층형 검색, 국소 편집이라는 용어를 기억할 만하다. ¹

생성 미디어 측면에서는 SpatialAvatar-0가 공유 표현과 촘촘한 정제 루프로 품질과 연산 비용을 동시에 개선하는 길을 보여준다. Forge 같은 도구는 모델 카탈로그를 따라가며 코딩 에이전트가 실무형으로 진화하는 양상을 드러낸다. ⁴