한 줄 요약

AI 연구가 정답 맞히기에서 과정을 가다듬는 쪽으로 이동한다: 증명할 만한 정리를 선별하고, 강화학습 결과를 예측하며, 선형 중첩과 교차 모달 격차를 점검·보정한다.

Research Papers

Learning to Discover Interesting Mathematics: ‘흥미로운’ 정리 선별과 기계 검증 수학 확장

이 시스템은 정리를 증명하는 데서 그치지 않고, 어떤 정리가 ‘증명할 가치’가 있는지도 수치로 판단한다. 저자들은 정리의 고유 흥미도를 “증명 길이 대 진술 길이의 비율”로 정의하고, 이것이 실제 유용성과 강하게 상관함을 보인 뒤, 271억 (27B) 매개변수 모델로 증명 난이도를 기존 범용 모델보다 더 정확히 예측해 대형 언어 모델(LLM)의 탐색을 가치 높은 방향으로 이끈다. ¹

이 지표로 최적화하면 결과가 더 독창적으로 바뀐다. Mathlib과의 중복이 91.9%에서 30.6%로 줄어 분포 밖(out-of-distribution) 정리가 늘었고, 시스템은 후보 정리를 만들고 가장 흥미로운 것을 고른 뒤 반복적으로 기계 검증 라이브러리를 확장한다. 이 지표는 추측(rank) 우선순위를 정하고 형식 증명 검색을 유도하는 실용적인 신호가 된다. ¹

함께 제안된 ProofGap은 정리 전체가 아니라 증명 ‘한 걸음’씩을 검사하는 미세 평가 벤치마크다. 해석학 교재 3,015개 문제의 자연어 해법에서 26,116개의 국소 검증 과제를 만들었고, 이 설계는 모델 논리가 어디서 무너지는지 정확히 짚어내며 한계를 정밀 진단하도록 돕는다. ²

수학자 Henry Kvinge의 평론은 AI가 인간 방식에 덜 묶인 ‘이질적(외계적) 표현’을 탐색해야 한다고 주장한다. 그는 순열 표현 학습을 위한 7,500만(75M) 매개변수 PermuFormer를 소개하며, 여러 인코딩을 아우르는 사전학습이 더 어려운 조합론 과제로의 전이를 돕는다고 본다. ³

Rufus-Air: 공개 8단계 사후 학습 레시피

이 연구는 기본 모델을 더 유능한 조수로 바꾸는 재현 가능한 전체 레시피를 공개한다. 단계는 지도 미세조정(Supervised Fine-Tuning, SFT), 추론 강화학습(Reinforcement Learning, RL), 코딩 RL, 지시 따르기 RL, 일반 에이전트, 코딩 에이전트, 검색 에이전트, 인간 피드백을 통한 강화학습(RLHF)까지 총 8단계다. 공개 구성요소와 공용 데이터를 사용하며 새 인력 주석이나 자체 티처 없이도 GLM-4.5-Air 공식 사후 학습판 대비 성능을 높였고, 유사 크기 공개 모델과 경쟁력을 보였다. ⁴

핵심 교훈은 실무적이다. 다양한 고품질 SFT가 강한 최소 역량을 만들고, 난이도 필터링은 RL 프롬프트를 학습 가능한 범위로 유지한다. 보상 신뢰도를 기준으로 단계를 배치하면 안정화에 도움이 되며, 인프라·엔지니어링 선택도 방법론의 일부로 다뤄야 한다. 사후 학습을 추진하는 팀의 기준선으로 삼기 좋다. ⁴

보완적으로 MIT CSAIL의 PoEM(Product of Experts Mixing)은 새 보상에 대한 RL 결과를 아예 학습 없이 예측한다. 기존 단일-보상 어댑터들의 로그 정책을 가중 혼합해 정책을 합성하며, 새 보상이 과거 보상의 선형 결합일 때는 목표 정책이 해당 로그-혼합이 된다. 언어와 이미지 전반에서, 근사 정책 최적화(Proximal Policy Optimization, PPO) 등과 비교했을 때 PoEM 생성물은 보류 보상 10개 중 9개에서 직접 학습한 RL 정책에 단일 전문가보다 더 가깝게 수렴했다. ⁵

Virtual Encoders · Superposition Linearity: 인코더 없는 지각 형성과 두 생각의 선형 중첩

비전·오디오 토큰을 별도 인코더 특징 없이 넣어도, 멀티모달 트랜스포머는 초·중간층에서 유용한 지각 표현을 스스로 형성한다. 저자들은 이를 ‘가상 인코더’라 부르며, Gemma 4 12B에서 의미 디코더 가능성이 깊이에 따라 증가하고 초반 은닉 상태가 인코더와 유사한 기하를 띠며, 이후 비전·오디오 경로가 언어 하위공간과 다르게 결합·분기함을 보인다. ⁶

별도의 연구는 대형 언어 모델(LLM)이 뜻밖의 선형성을 보인다고 보고한다. 서로 다른 두 입력 스트림을 선형 결합하면 다음 토큰 분포가 두 분포의 중첩(평균)에 가깝게 나타난다. 이 성질은 사전학습이 진행될수록 약해지지만, 가벼운 미세조정으로 회복할 수 있고, 한 번의 전향 패스에서 두 개의 일관된 답을 동시에 뽑아내도록 중첩을 분리하는 디코딩 기법도 제안한다. ⁷

AV-GRPO · RecCAR · DEEPO: 영상·오디오 공동 생성의 균형 다잡기

공동 생성기에서는 영상→모달 경로에 비해 역방향(모달→영상) 정보 흐름이 약해 동기나 일관성이 흔들리곤 한다. RecCAR(상호 교차-모달 주의 정규화)는 강한 경로를 기준으로 삼아 쿨백-라이블러 발산(Kullback–Leibler, KL)으로 약한 경로를 정렬시켜, VBench 인체 해부 점수를 0.69→0.75로 높이고 오디오–비디오 비동기를0.804→0.752로 낮추면서 품질을 유지했다. ⁸

AV-GRPO는 모달리티 고정(앵커) 롤아웃, 궤적 고정(frozen-tower) 최적화, 모달별 동학에 맞춘 적응 목표로 학습을 안정화하는 온라인 확산 강화학습(RL) 프레임워크와 5DAV 데이터셋을 제안한다. JavisBench와 VABench에서 LTX-2.3보다 생성 품질, 텍스트 정합, 동기화가 우수했으며, 코드와 데이터가 공개됐다. ⁹

멀티모달 대형 언어 모델(MLLM)의 환각을 줄이는 DEEPO는 RL의 두 약점을 진단한다. 어려운 질의에서는 집단 상대 이점이 0으로 붕괴하고, 자신만만하지만 틀린 토큰은 그래디언트가 사실상 보이지 않는다. DEEPO는 의미 엔트로피 기반 추론 프리픽스와 레니( Rényi) 엔트로피 기반 그래디언트 전처리를 결합해 VideoMMMU에서 +4.0포인트(95% 신뢰구간**[1.1, 6.9]**) 향상을 보이면서 정확도와 안정성을 유지했다. ¹⁰

Open Source & Repos

Apache TVM 0.27.0: 컴파일러 수정과 웹 런타임 업데이트

Apache TVM은 모델을 중앙처리장치(CPU), 그래픽 처리 장치(GPU), 브라우저 등 다양한 하드웨어에서 효율적으로 실행하도록 돕는 오픈 머신러닝 컴파일러다. 0.27.0(2026-09-25) 릴리스에는 tvmjs 0.27.0-dev0 업데이트와 이식성·신뢰성 향상에 도움이 되는 여러 수정이 포함됐다. ¹¹

릴리스 노트에는 오픈 뉴럴 네트워크 익스체인지(ONNX) 임포터의 Split 이니셜라이저 처리(keep_params_in_input) 수정과 산술(Arith) 영역의 Z3 컨텍스트 분리 등이 담겼다. 엣지 또는 웹 배포를 준비한다면 tvmjs 업데이트와 ONNX 모서리 사례 처리의 안정화가 특히 유용하다. ¹¹

왜 중요한가

오늘의 논문들은 결과보다 과정을 다듬는다. 무엇을 먼저 증명할지 고르고, 추론을 단계별로 검증하며, 학습 없이 보상 조합의 효과를 예측하고, 트랜스포머가 지각을 내부화·합성하는 방식을 들여다본다. 이는 ‘더 큰 모델’이 아니라 목표 지향 탐색과 연산 재활용 쪽으로의 이동을 뜻한다. ¹

생성 미디어에서는 상호 주의 정렬, 모달별 분리 학습, 자신감 높은 오류에 도달하는 그래디언트 전달 같은 측정 가능한 개선이 동기화·품질 향상으로 직결된다(예: 해부 점수 0.69→0.75, 비동기 0.804→0.752). 제품 팀이 곧바로 적용·검증할 수 있는 유형의 진전이다. ⁸

이번 주 시도해볼 것

1. PoEM 훑어보기: 서론과 그림 1로 학습 없이 로그-정책 혼합으로 RL 결과를 예측하는 방식을 이해한다. https://arxiv.org/abs/2609.30226
2. TVM 0.27.0 릴리스 노트: 브라우저 추론을 쓴다면 tvmjs 변경점을 확인한다. https://github.com/apache/tvm