개발자와 연구자들이 보안, 평가, 비용 관리 및 자동화를 위한 AI 에이전트 도구를 출시하거나 공개했습니다. 여기에는 개발자들이 AI 에이전트 메모리 오염에 대한 방어 수단으로 설명하는 OWASP Agent Memory Guard, 완전한 개인용 에이전트 구성을 위한 벤치마크인 HermesBench, LLM 및 LVLM 애플리케이션 출력에 대한 그래프 기반 평가 시스템인 nexa-gauge, 그리고 LLM API 비용 회귀를 위한 CI 게이트인 Tokentoll이 포함됩니다. 보안 관련 자료에는 "자율형 LLM 에이전트 웜(Autonomous LLM Agent Worms)"이라는 제목의 arXiv 논문이 포함되었는데, 이 논문은 영구 작업 공간, 메모리 파일, 예약된 작업 상태 및 메시징 통합 기능을 갖춘 장기 실행 에이전트가 공격자의 영향을 받은 콘텐츠가 모델 컨텍스트에 다시 입력될 때 전파 위험을 초래한다고 설명합니다. 다른 프로젝트로는 샌드박싱 및 정책 제어 기능이 있는 ...

Read the original article