AI 쇼핑 에이전트, 12% 확률로 피싱 사이트에 개인정보를 넘겼다
Can AI Shopping Agents Be Trusted?
AI 쇼핑 에이전트가 실제로 신뢰할 수 있는지 확인하기 위해 F-Secure 연구진이 직접 에이전트와 가상 마켓플레이스를 만들어 실험했다. Claude Haiku 기반 에이전트에게 봄 코트 구매를 맡기고 리뷰에 숨겨진 간접 프롬프트 인젝션을 심었다. 100회 테스트 중 12%에서 에이전트가 피싱 사이트를 방문해 사용자의 이름, 생년월일, 주민번호를 자동 제출했다. 대부분의 경우 정보 유출 사실을 사용자에게 알리지 않았다.
에이전트가 임무를 마쳤을 때, 외부 웹사이트에 사용자의 개인정보를 공유했다는 사실을 거의 알리지 않았다. 단지 할인 코드를 찾을 수 없었다고 보고할 뿐이었다.