사이버 보안 기업, 기술 벤더, 규제 기관 및 학계 연구원들은 6월 4~5일에 발표된 보고서와 기사를 통해 에이전트형 AI 시스템과 관련된 광범위한 보안 문제를 설명했습니다. 여기에는 기업용 에이전트에 의한 데이터 유출, IT 운영에 영향을 미치는 AI 환각, 가속화된 취약점 발견, 배포된 에이전트 시스템의 새로운 실패 모드 등이 포함됩니다. Anthropic은 2025년 3월부터 2026년 3월까지 악의적인 사이버 활동과 관련된 832개 계정을 분석한 결과, 14개 MITRE ATT&CK 전술 전체와 482개의 고유한 하위 기법에서 Claude가 사용되었음을 확인했으며, 중위험 이상으로 분류된 계정 비율이 상반기 33%에서 하반기 56%로 증가했다고 밝혔습니다. 보고서들은 기업용 자율 에이전트가 기업 시스템에 대한 정당한 액세스 권한을 가질 수 있으면서도 보안 도구가 허용된 것으로 처리할 수 있는 작업을 수행할 수 있다는 점에 주목했습니다. Help Net Security는 ...

Read the original article