Meta Muse가 발견 가능한 공유 링크를 통해 민감한 데이터를 노출합니다

Meta Muse, 범용 AI 에이전트는 대화가 웹 링크를 통해 공유될 때 민감한 사용자 데이터를 노출합니다. 링크가 수동 DNS 레코드를 통해 쉽게 발견될 수 있기 때문입니다. 보안 발견에 대응하여 Meta는 공유 기능을 검토하고 변경 사항을 구현하는 동안 공유 기능을 중단했습니다.

핵심 취약점

이 취약점은 Muse가 공유 URL을 구성하는 방식의 중앙 설계 결정에서 비롯됩니다. 시스템은 안전하고 추측할 수 없는 고유 식별자를 사용하는 대신 대화 이름을 URL의 하위 도메인에 직접 포함합니다. 이 구조는 외부 당사자가 원래 링크 없이도 공유 콘텐츠를 열거하고 발견할 수 있게 합니다.

보안 회사 Claroc의 연구원들은 Muse 사용자가 만든 6,800개의 링크를 열거할 수 있었습니다. 이 링크 중 수백 개를 조사한 후 연구원들은 공개 액세스를 위한 것이 아닌 매우 민감한 정보를 발견했습니다. 노출된 데이터의 예는 다음과 같습니다:

• 기밀 임원 검색 통화를 준비하는 후보자의 메모(내부 연락처 및 프론티어 AI 연구소의 회의 시간 포함).
• CEO를 위해 표시된 전국 마케팅 회사의 내부 수익 검토.
• 소기업 소유자의 대출 신청서(요청 금액 상세 포함).
• 은행 사기 경고가 포함된 할 일 목록(부분 계좌 번호 및 거래 세부 정보 포함).
• 부동산 투자자의 내부 성과 보고서(부동산 주소 및 정확한 재무 수치 나열).
• 직장의 연간 직원 휴가 달력(수십 명의 직원과 그들의 결근 주 나열).

발견의 기술적 메커니즘

발견의 용이성은 수동 DNS 레코드의 사용으로 촉진됩니다. 수동 DNS 시스템은 DNS 리졸버에서 도메인 이름을 IP 주소로 포함한 과거 해석 데이터를 수집합니다. 사용자가 Muse 공유 링크를 클릭하면 DNS 정보가 검색 가능한 데이터베이스에 기록됩니다.

Claroc 연구원들은 모든 Muse 공유 링크가 cf.metaaiusercontent.com 도메인 이름을 사용하기 때문에 식별했습니다. 중요한 결함은 home-sale-budget-9f21c8a3.cf.metaaiusercontent.com과 같은 하위 도메인에 대화 제목을 포함하는 것입니다. 이 설계 선택은 콘텐츠 제목이 수동 DNS 검색을 통해 공개적으로 발견될 수 있게 하며, 연구원들은 이를 "GhostShares"라고 명명했습니다.

Meta의 대응 및 완화

Meta는 문제를 인정하고 Ars Technica의 질문에 이메일 성명으로 응답했습니다. Meta는 연구원들이 다양한 시나리오를 식별하고 제품 개선을 돕도록 장려하기 위해 Muse 버그 바운티 프로그램을 열었다고 밝혔습니다. 회사는 보고서를 검토하고 이러한 링크가 발견되는 방식을 변경하는 것을 고려하는 동안 공유 기능을 일시 중지했다고 확인했습니다.

Claroc의 공동 창립자이자 CTO인 Asaf Aprozper는 10월 8일 Meta의 버그 바운티 프로그램을 통해 발견 사항을 보고했지만 LinkedIn에서 Meta 담당자에게 연락을 시도했을 때 응답을 받지 못했다고 언급했습니다.

더 넓은 보안 맥락

이 취약점은 강력하고 높은 권한을 가진 AI 에이전트의 배포와 관련된 중요한 보안 우려를 강조합니다. Muse는 기능을 위해 사용자 계정에 대한 광범위한 액세스가 필요하며, 사용자가 플랫폼에 두어야 하는 신뢰에 대한 우려로 이어집니다.

공유 링크 취약점 외에도 플랫폼은 다른 보안 문제에 직면했습니다. 출시 3주 후, macOS 보안 전문가 Patrick Wardle은 동일한 장치의 다른 앱이 사용자의 Muse 계정을 완전히 제어할 수 있게 하는 제로데이 취약점을 발견했습니다. Meta는 이 발견을 축소했지만, 공유 링크의 발견 용이성은 Muse의 전반적인 보안 태세에 대한 의문을 더욱 증폭시킵니다.

댓글 작성자들은 AI 어시스턴트와 관련된 위험과 책임에 대한 몇 가지 요점을 종합했습니다:

"공유 링크를 발견하는 용이성은 Muse가 요구하는 액세스 권한을 받을 자격이 있는지 묻는 것을 더욱 정당화합니다."

또 다른 논의 포인트는 대형 기술 회사가 민감한 데이터를 처리하는 것에 대한 더 넓은 영향에 초점을 맞췄습니다:

"Muse는 가장 명백히 실패할 운명의 클로 스타일 봇입니다. 왜냐하면 이미 그러한 것들을 어떤 개인 정보와도 분리해야 하기 때문입니다. 그리고 Meta는 당신이 그 안에 쓰는 모든 것을 모두에게 알려줄 저널로 방에 들어와서 '나를 믿으세요'라고 말합니다. FAANG 회사의 큰 문제의 일부입니다."

프라이버시를 위한 대안적 접근 방식

중앙 집중화되고 데이터 집약적인 AI 플랫폼이 제기하는 프라이버시 위험에 대응하여 일부 사용자와 개발자는 자체 호스팅 및 분산 솔루션을 탐구하고 있습니다. 한 댓글 작성자는 자체 호스팅 옵션의 실행 가능성을 언급하며 다음과 같이 말했습니다:

"...자체 호스팅을 위한 실행 가능한 옵션도 있을 것입니다. 저는 이미 하고 있습니다 [github 저장소 링크]. Hub는 단일 장치를 통해 가족 전체의 추론 요구를 지원합니다 - 4명의 사용자 - 8개의 장치 - 약 50개의 에이전트 - 로컬 모델과 일부 구독의 혼합입니다."

이러한 대안은 데이터 주권을 우선시하는 사용자에게 오픈 가중치 모델과 지역 클라우드 서비스를 활용하는 것이 성장하는 추세임을 시사합니다.

SUMMARY: 연구원들은 범용 AI 에이전트인 Meta Muse가 대화 공유 링크가 수동 DNS 검색을 통해 쉽게 발견될 수 있기 때문에 사용자의 개인 및 비즈니스 비밀을 노출한다는 것을 발견했습니다.

TITLE: Meta Muse가 발견 가능한 공유 링크를 통해 민감한 데이터를 노출합니다