Anthropic, Claude 기능의 데이터 위험성 인정

대부분의 생성 AI 서비스는 개인 또는 업무 관련 데이터와 파일을 어느 정도 활용할 수 있습니다. 이는 시간과 노력을 절약할 수 있는 장점이 있지만, 민감하거나 기밀 정보에 접근할 수 있어 잘못된 사람에게 데이터가 공유될 위험이 있습니다.

최근 사례로는 Anthropic의 Claude AI가 있습니다. 화요일, 회사는 Claude AI가 Word 문서, Excel 스프레드시트, PowerPoint 슬라이드 및 PDF를 직접 생성하고 편집할 수 있다고 발표했습니다. 이 기능은 현재 Claude Max, Team 및 Enterprise 구독자에게만 제공되며, 곧 Pro 사용자에게도 제공될 예정입니다.

그러나 이러한 상호작용에는 위험이 따릅니다. Anthropic은 이 기능이 Claude에게 인터넷 접근 권한을 부여하여 데이터를 위험에 빠뜨릴 수 있다고 인정했습니다. 이 기능은 제한된 인터넷 접근 권한을 가진 샌드박스 환경에서 작동하지만, 공격자가 외부 파일이나 웹사이트를 통해 악성 코드를 실행하거나 민감한 데이터를 읽을 수 있습니다.

사용자는 Claude와 파일 생성 기능을 사용할 때 주의를 기울여야 합니다. 예상치 못한 데이터 사용이나 접근이 감지되면 즉시 중지하고 문제를 보고해야 합니다. 이는 생성 AI 산업에서 흔한 문제로, AI 제공업체들은 이러한 위협에 대처하는 데 느린 반응을 보이고 있습니다.

Anthropic은 Claude 사용자들을 위한 여러 보안 기능을 마련했다고 밝혔습니다. 이 기능에 대한 지속적인 보안 테스트와 레드팀 테스트를 수행하고 있으며, 조직은 이 기능을 활성화하기 전에 자체 보안 요구 사항에 맞춰 평가할 것을 권장합니다.