클로드 AI 보안 취약점 '한 번의 클릭'으로 해킹 가능

보안 취약점의 발견

AI 보안전문업체 Adversa AI는 안스로픽의 클로드 AI가 사용자 인터페이스의 신뢰도를 악용한 프롬프트를 통해 한 번의 클릭으로 원격 코드 실행(RCE)이 가능하다는 점을 지적했다. 이 공격은 사용자가 명시적으로 코드 실행을 승인하는 버튼을 누르도록 유도하는 방식으로 진행된다.

안스로픽의 입장

안스로픽은 이러한 취약점에 대해 "사용자가 실행할 코드의 내용을 더 주의 깊게 검토해야 한다"는 입장을 나타냈다. 회사는 "승인 버튼을 클릭하지 말았어야 했다"고 응답했으며, 기본적으로 사용자의 주의 책임을 강조했다.

경고 메시지 강화의 필요성

Adversa AI는 AI 도구 사용자들이 잠재적 위험에 대해 더 명확한 경고를 받아야 한다고 주장했다. 현재의 UI/UX 디자인이 사용자로 하여금 악의적 코드 실행을 무분별하게 승인하도록 유도할 수 있다는 우려를 제기했다. 보안 업체는 더욱 강력한 시각적 경고와 검증 메커니즘의 도입을 권고했다.