이미지 생성 모델, 언어 사전학습 없이 비교 모델보다 높은 성능

한 줄 요약

유용한 모델 능력을 유지하면서 학습과 실행에 드는 부담을 얼마나 덜어낼 수 있는지가 연구의 공통 질문으로 떠오른다.

Research Papers

Halcyon: 언어 사전학습 없이 이미지를 생성하는 모델

Halcyon은 별도의 언어 사전학습 없이 글로 적은 설명을 이미지로 만든다. 연구진은이미지·텍스트 쌍 1억 개만으로 모델을 처음부터 학습해, 현대 이미지 생성 시스템이 사용하는 인터넷 규모의 언어 사전학습이 꼭 필요한지 검증한다. ¹

보고된 두 크기의 모델은 모두 비교 모델보다 적은 사전학습 연산으로 더 좋은 결과를 낸다. 학습된 내부 수치인 매개변수가 5.2억 개인 Halcyon-0.52B는 이미지 품질 거리 점수에서48.0을 기록해LlamaGen-XL/8의 63.3보다 낮고, 사전학습 연산량은18.2분의 1이다. 이 점수는 낮을수록 좋으며,매개변수 16억 개인 Halcyon-1.6B는35.3으로JiT-T2I-XXL/8++의 41.0보다 낮은 점수를 내면서 사전학습 연산량을275분의 1로 줄인다. ¹

모델은 처음부터 텍스트와 이미지를 함께 학습하고 결과를 한 단계씩 생성한다. 이처럼 두 종류의 정보를 초기에 결합하는 방식을 조기 융합이라고 하며, 통제 실험에서는 텍스트만으로 먼저 학습하는 단계를 추가해도 이미지 생성 성능이 개선되지 않는다. 연구진은 같은 사전학습 연산 예산 안에서 이미지 생성 품질을 경쟁력 있게 유지하면서 이미지 설명문을 작성하는 능력도 학습시킨다. ¹

실용적 핵심은 좋은 이미지 생성 능력을 얻기 위해 별도로 사전학습된 언어 모델이 반드시 필요한 것은 아니라는 점이다. 다만 확인할 경계는 실험 범위다. 이번 결과는 보고된 이미지 생성·설명문 작성 설정에 관한 것이며, 모든 작업에서 언어 사전학습이 불필요하다는 증거는 아니다. ¹

StopLoss: 실패 가능성이 큰 코딩 작업을 조기에 중단

StopLoss는 코딩 작업을 수행하는 모델의 최근 단계를 살펴보고, 최종 검증에 실패할 가능성이 크다고 판단하면 작업을 중단한다. 완료된 작업 기록과 성공·실패 결과로 학습한 별도의 소형 감시 모델이므로, 코딩을 수행하는 모델 자체를 바꿀 필요가 없다. ²

동일한 최근 작업 단계를 읽는 범용 판정 모델 6개와 비교하면, 최종 결과로 학습한 이 감시 모델의 실패 점검 비용은 점검 한 번당10분의 1~100분의 1이다.SWE-bench Verified에서는성공한 작업의 99%를 보존하면서유지된 성공 결과 하나당 비용을 4.5% 낮춘다. 이 지표는 전체 지출 감소만을 성과로 보지 않고, 성공 결과를 얼마나 남겼는지까지 반영한다. ²

비용이 더 많이 드는 SWE-bench Pro 일부 과제에서는 절감 폭이**31%에 이르며,매개변수 80억 개인 Qwen3-8B를 감시 모델로 사용하면48%**에 도달한다.네 가지 설정 모두에서 유지된 성공 결과 하나당 비용은 실험한 모든 판정 모델 정책보다 낮다. 확인할 절충 관계는 비용 절감과 성공할 작업을 잘못 중단하는 위험 사이에 있으며, 연구진은 성공한 실행 기록을 기준으로 중단 문턱값을 조정한다. ²

LLM & SOTA Models

Muse Glimmer: 소비자용 기기에서 여러 단계 작업 수행

Meta의 Muse Glimmer는 클라우드에 의존하지 않고 소비자용 하드웨어에서 여러 단계의 작업을 수행한다. 이대형 언어 모델 (Large Language Model, LLM)은 학습된 내부 수치인매개변수 300억 개를 갖추고, 텍스트와 이미지를 입력받아 텍스트로 응답한다. 추론, 도구 사용, 실패 복구 기능을 하나의 모델에 통합한다. ³

모델은 100개가 넘는 언어의 데이터로 학습하며, 수치를 약4비트 정밀도로 저장해그래픽 처리 장치(Graphics Processing Unit, GPU) 한 개에서 실행할 수 있도록 한다. 이처럼 저장하는 수치의 정밀도를 낮추는양자화는 Meta가 모델을 기기 내 실행에 적합하게 만드는 방법의 하나다. ³

Meta는 Apache 2.0 라이선스로 모델을 공개해, 도구를 사용해 작업하는 기기 내 에이전트를 만드는 개발자에게 오픈소스 선택지를 제공한다. Meta는 도구 사용, 여러 단계의 계획 수립, 작업 완료에서Gemma4-31B,Qwen3.6-27B와 비교해동급 최고 수준 (State of the Art, SOTA)의 결과를 낸다고 설명한다. 다만 제공된 초록에는 구체적인 벤치마크 점수나 메모리 요구량이 없어, 특정 기기에서 실행 가능하다고 판단하기 전에 이 수치를 확인할 필요가 있다. ³

왜 중요한가

이 연구들은 효율을 세 가지 질문으로 나눈다. 모델이 무엇을 먼저 배워야 하는지, 어디에서 실행할 수 있는지, 실패 가능성이 큰 시도를 언제 중단해야 하는지다. 다만 Halcyon은 사전학습 연산량, Muse Glimmer는 기기 내 실행, StopLoss는 유지된 성공 결과 하나당 비용을 다루므로, 무엇이 저렴해지는지와 어떤 능력이 보존되는지를 함께 확인해야 한다. ^{1 2 3}