한 줄 요약

작은 모델이 카운팅과 생성을 한꺼번에 해내고, 긴 문맥 메모리는 정보 이론으로 더 똑똑하게 줄이며, 위성 예보에는 물리 신호를 직접 넣는 흐름이 보인다.

Research Papers

ABACUS: 하나의 모델로 카운팅과 이미지 생성 연결

ABACUS는 한 모델이 이미지에서 “얼마나 많은가”를 묻는 객체·군중·지시어 카운팅을 수행하고, 동시에 요청한 개수를 지키는 이미지를 생성한다. 각 벤치마크별 추가 학습 없이 동작하며, 30억 매개변수 기반 모델을 객체 위치 추정과 ‘개수 보존’ 이미지 생성에 함께 맞췄다. ¹

정확한 카운팅을 위해, ABACUS는 객체성 지도에 기반한 밀도 인지형 확대(혼잡 구역을 더 자세히 봄)를 도입했고, 잘린 경계에서의 오차를 줄이는 경계 인지형 카운팅 정책을 학습했다. 또한 이해(인식) 가지가 생성 결과가 요청한 개수를 지키는지 자체 점검하는 순환 일관성 자기 비판을 활용해, 외부 주석 없이 인식–생성 간 간극을 줄인다. ¹

저자들은 7개 벤치마크에서 최상위 성능을 보고하며, 과제 특화 모델과 더 큰 범용 모델 모두를 능가한다고 밝힌다. 카운팅과 생성을 통합하면 과제별 파편화를 줄이고 정확도를 높이면서도 30억 규모의 비교적 작은 기반을 유지할 수 있다는 점이 핵심 주장이다. ¹

의의: 개수를 정확히 이해·생성하는 단일 시스템은 리테일 재고, 군중 분석, 생태 모니터링 등에서 데이터 증강·시뮬레이션·질의응답 파이프라인을 단순화할 수 있다. 정제된 데이터셋 밖에서도 ‘개수 보존’ 약속이 얼마나 견고한지, 제삼자 구현이 보고된 이득을 재현하는지가 관전 포인트다. ¹

InfoKV: 불확실성 신호로 긴 문맥 메모리 압축

대형 언어 모델(LLM)이 긴 프롬프트를 처리하면 토큰 표현을 담는 키-값(KV) 캐시가 커진다. InfoKV는 주의(attention) 가중치만 보지 않고 정보 이론적 단서를 써서 어떤 토큰을 보존할지 결정한다. 핵심은 미래 문맥에 미치는 영향을 정면으로 재는 전방 영향(Forward Influence)과, 토큰 수준 예측 불확실성 및 층별 표현 변화를 결합해 보존 대상을 선택하는 것이다. ²

Llama‑3.1, Llama‑3.2, DeepSeek‑R1로 수행한 긴 문맥 추론 평가에서, InfoKV는 긴 프리필링과 디코딩 상황 모두에서 주의 기반 압축법보다 일관되게 우수했다. 이는 동일한 하드웨어 제약에서 더 긴 입력이나 더 큰 모델을 다룰 여지를 시사한다. ²

EO-WM: 물리 신호를 활용한 위성 관측 예측

EO‑WM은 지구 관측(EO) 예측을 날씨가 주도하는 월드 모델링 문제로 보고, 기후 기준선·날씨 이상(anomaly)·누적 스트레스(예: 열·가뭄)를 명시적으로 조건으로 쓰는 비디오 확산 트랜스포머를 제안한다. 또한 극한 여름 상황에서 식생 악화를 정도 인지로 평가하는 진단 벤치마크와, 날씨 강제(포싱)가 바뀔 때 예측이 제대로 반응하는지 보는 계절 매칭 쌍 벤치마크를 함께 제시한다. ³

실험에서 EO‑WM은 정규화 식생지수(NDVI) 하락 진폭 예측 오차를 상대 5.63% 줄였고, 방향 적중률을 상대 7.80% 높였으며, 픽셀 수준 지표에서도 경쟁력을 유지했다. 저자들은 벤치마크와 모델을 공개할 계획이라고 밝히며, 이는 날씨 반응 충실도를 직접 검증하는 데 도움이 될 것이다. ³

“더 그럴듯한 답”이 항상 더 맞는 답은 아니다

이 연구는 한 가지 핵심 질문을 다룬다. 모델이 판단하는 시퀀스 확률을 높이면 실제 정답률도 높아지는가? 저자들은 디코딩 방법, 하이퍼파라미터, 데이터셋, 동일 프롬프트 반복 응답에 걸쳐 시퀀스 확률과 정답률의 관계를 정량화했다. ⁴

결과적으로, 고정된 데이터셋에서 프롬프트‑정답 쌍 간 비교에서는 시퀀스 확률이 정답과 종종 상관되지만, 디코딩 결정을 바꾸어 확률을 높인다고 해서 정확도가 안정적으로 오르지는 않았다. 동일 프롬프트의 반복 응답들 사이에서도 확률은 정답의 좋은 지표가 아니었다. 실무적 시사점: 확률은 거친 신호로만 취급하고, 자기 일관성(self‑consistency)이나 별도 검증기를 신중히 쓰되 “더 그럴듯함=더 정답”으로 가정하지 말아야 한다. ⁴

왜 중요한가

오늘의 논문들은 작은 모델 안에 능력을 묶어 넣고(카운팅+생성), 긴 문맥 메모리를 정보 이론으로 더 현명하게 줄이며, 물리 기반 조건을 예측에 주입하는 실용적 방향을 보여준다. 동시에 디코딩 연구는 단순히 확률을 높이는 조정만으로는 정확도를 담보할 수 없음을 상기시킨다—평가와 검증 설계가 여전히 중요하다.