프롬프트 단어 삽입 위험에 노출된 노션 AI 에이전트, 숨겨진 PDF가 개인 데이터 유출을 유도할 수 있습니다.

공격자는 PDF와 같은 문서에 육안으로 보이지 않는 숨겨진 텍스트(예: 흰색 텍스트)를 심을 수 있으며, 사용자가 처리할 문서를 에이전트에 넘기면 에이전트가 숨겨진 메시지를 읽고 지시대로 실행한 다음 민감한 정보를 외부 주소로 전송할 수 있습니다. 연구원들은 이러한 유형의 공격이 사용자들에 의해 자주 사용된다고 지적합니다. 연구진은 이러한 유형의 공격은 종종 성공률을 높이기 위해 권한 위장, 긴박감 조성 및 잘못된 보안 보증과 같은 사회 공학 기술을 사용한다고 지적했습니다. 전문가들은 민감한 데이터 유출 위험을 줄이기 위해 에이전트에 알 수 없는 출처의 PDF/파일을 업로드하지 말고, 에이전트의 엑스트라넷 및 데이터 내보내기 권한을 엄격하게 제한하고, 의심스러운 파일을 암호화 해제/정화하고 수동으로 검토하고, 외부로 제출하기 전에 에이전트에 명확한 확인 메시지를 표시하도록 하는 등 경계를 강화할 것을 권장합니다.