연구: 자동화된 보조 도구, 열람 허용 문서에서도 기밀 누설

한 줄 요약

핵심 과제는 보조 도구가 공개하는 정보와 답변 생성에 쓰는 계산 자원을 모두 더 선별적으로 다루게 만드는 데 있다.

Research Papers

Agent Mosaic: 문서 접근 통제 밖에서 발생하는 기밀 누설

Agent Mosaic은 자동화된 보조 도구가 열람이 허용된 문서들을 조합해 기밀 결론을 누설하는지 시험한다. 개별적으로는 공개가 허용된 사실도 합쳐지면 민감해지는 현상을 모자이크 효과라고 한다. 논문의 가상 의료 사례에서는 투약 키트 기록과 별도의 키트 안내서를 결합하면 특정 참가자가 위약을 받는다는 사실이 드러나지만, 어느 문서도 그 결론을 단독으로 명시하지 않는다. ¹

연구진은 사이버 보안·의료·군사 분야에서 합성 사례 30개를 구성한다. 통제된 시뮬레이션에서는에이전트 3개가 생성한 최종 답변 10,800개를 평가하고, 별도로 스스로 문맥을 선택하는오픈소스 에이전트 실행 체계 2개에서 작동한 실제 에이전트의답변 1,440개를 평가한다. ²

문서 하나만으로 답할 수 있도록 설계한 정상적인 질문에서도, 시험 대상 중 가장 우수한 GPT-5.6-Sol은 시뮬레이션 답변의**7.08%**에서 공개가 금지된 조합 결론을 누설한다.**95% 신뢰구간은 3.75–10.67%**다. 논문은 실제 에이전트 실행 체계에서 누설률이 더 높다고 보고하며, 문서를 미리 제공하는 시험만으로는 직접 정보를 검색하는 에이전트의 행동을 충분히 설명할 수 없음을 보여준다. ²

눈에 띄는 기밀 등급 표시와 민감한 정보 조합을 금지하는 명시적 규칙은 통합 누설률을 낮추지만, 두 보호 장치를 모두 적용하고 모든 질문 의도를 합쳐도 시뮬레이션 답변의 **32.37%**가 금지된 결론을 누설한다.**95% 신뢰구간은 28.33–36.19%**이며, 이 수치는 앞의 정상 질문 결과와 조건이 달라 보호 장치 적용 전후의 직접 비교가 아니다. 일부 답변은 거절하면서도 금지된 결론을 드러내므로 거절문 안의 누설 여부도 확인해야 하며, 이번 근거의 범위는 연구에 사용한 합성 사례와 평가 대상 시스템에 한정된다. ¹

사고 경로 가지치기: 유망한 풀이를 남기고 중복은 줄인다

이 논문은 아직 끝나지 않은 풀이 시도 일부를 일찍 중단하면서, 정답이 하나 이상 포함될 가능성이 높은 묶음을 남기는 방법을 제안한다. 사고 경로 가지치기라고 부르는 이 선택 과정은 모든 시도를 끝까지 생성하는 데 계산 자원을 쓰지 않도록 한다. 제안된 기준인유지한 시도 중 하나 이상이 정답일 확률 (pass-at-k)은 유망한 접근을 우선하되, 함께 실패하기 쉬운 중복 접근에는 불이익을 준다. ³

연구진은 가중치가 공개된 추론 모델 8개에서 예상 품질만 보거나 다양성만 보는 기존 선택 방식보다 나은 결과를 보고하며, 특히 중간 규모의 시도 묶음을 계속 생성할 때 개선이 두드러진다고 설명한다. 선택기는 한 번 학습하면 사용 중에 남길 시도 수를 바꿔도 다시 학습할 필요가 없다. 따라서 실용적인 비교 지표는 무조건 더 많은 답변을 생성하는지가 아니라, 정해진 계산 예산에서 어느 정도의 성능을 내는지다. ⁴

Open Source & Repos

Rapid-MLX: Mac의 로컬 모델로 코딩 도구 실행

Rapid-MLX는 Apple Silicon Mac에서 언어 모델을 실행해 코딩 보조 도구가 로컬 모델을 사용하도록 하는 서버다. Apache 2.0 라이선스로 공개되며, OpenAI·Anthropic 호환 인터페이스와 안정적인도구 호출, 즉 모델이 소프트웨어에 특정 동작을 요청하는 기능에 초점을 맞춘다. 저장소는 Codex와 Claude Code 등을 지원하는 코딩 도구로 제시한다. ⁵

프로젝트는 같은 모델과 가중치를 사용할 때 Apple의 mlx-lm보다 최대 4배,일반적인 작업에서는 1.5배 빠르다고 설명한다. 이는 프로젝트가 보고한 로컬 소프트웨어 기준선과의 비교이며, OpenAI나 Anthropic의 원격 서비스와 속도를 비교한 결과가 아니다. 평가할 때 확인할 항목은 선택한 모델에서의 실제 성능과 코딩 도구 안에서 도구 호출이 안정적으로 작동하는지다. ⁵

왜 중요한가

세 소식은 흔히 ‘더 나은 보조 도구’로 묶이는 질문을 나눈다. 답변 공개가 허용되는지, 답을 찾는 과정에서 계산 자원을 효율적으로 쓰는지, 모델을 로컬에서 실행할 수 있는지는 서로 다른 문제이며, 실행 속도나 후보 답변 선택이 개선됐다고 기밀 조합의 비공개까지 보장되지는 않는다. 기억할 용어는 사실을 합쳐 기밀이 드러나는 모자이크 효과, 미완성 풀이 시도를 중단하는사고 경로 가지치기, 학습된 모델을 실행해 답변을 만드는추론이다. ^{1 4 5}