AI 보안 벤더, 연구원 및 정부 연계 기관들은 6월 1일 사이버 보안에 사용되는 AI 시스템을 조사하거나 관리하기 위한 도구와 테스트를 발표했습니다. Mindgard는 AI 가드레일이 프롬프트 인젝션, 탈옥, 데이터 유출 시도 및 에이전트, 코파일럿, 대규모 언어 모델 애플리케이션에 대한 적응형 공격을 견딜 수 있는지 테스트하는 GuardBuster를 출시했습니다. Finimize는 Bloomberg를 인용하여 Anthropic이 EU 사이버 보안 기구인 ENISA에 운영 체제와 웹 브라우저의 취약점을 찾아 악용할 수 있다고 설명한 AI 도구인 Mythos에 대한 조기 액세스 권한을 부여하고 있다고 보도했습니다. 여러 항목이 취약하거나 우회된 AI 보호 장치에 초점을 맞췄습니다. CXOToday는 Financial Times 보고서와 AI 안전 그룹 Alice의 테스트를 인용하여, 사용 가능한 도구들이 오픈 모델에서 보호 장치를 제거했으며 Google의 Gemma 3의 검열 ...

Read the original article