Claude의 기억을 훔치는 방법: 웹 브라우징으로 개인정보 유출하기

The Memory Heist

AI 비서인 Claude가 사용자의 대화 기록을 기반으로 구축한 메모리 시스템에는 이름, 회사, 고향, 보안 질문 답변 등 민감한 개인정보가 저장되어 있습니다. 이 글은 Claude의 웹 브라우징 기능을 악용해 샌드박스에서 데이터를 빼내는 공격을 소개합니다. 공격자는 사용자가 방문할 만한 가짜 웹사이트를 만들고, Claude가 그 사이트를 탐색하도록 유도하여 사용자의 개인정보를 한 글자씩 유출시킵니다. Claude의 내부 추론 과정에서 과거 대화를 분석해 새로운 정보(예: 고향)를 추론해내는 모습도 보여줍니다. 이 공격은 사용자가 특별한 행동을 하지 않아도 발생할 수 있어 더욱 위험합니다.