마이크로소프트는 5월 20일, AI 에이전트 안전 작업을 위한 두 가지 도구인 RAMPART와 Clarity를 오픈 소스로 공개한다고 발표했습니다. 회사는 이번 출시를 기업용 AI가 텍스트 생성에서 업무용 소프트웨어 내에서 조치를 취할 수 있는 시스템으로 전환되는 흐름과 연결 지었습니다.Highlights:에이전트 범위: 마이크로소프트는 현재 기업용 에이전트가 이메일에 액세스하고, CRM 기록을 검색하며, 코드를 작성 및 실행하고, 수십 개의 연결된 시스템에서 활동할 수 있다고 밝혔습니다.시나리오 설계: 마이크로소프트는 RAMPART가 적대적 시나리오와 우호적 시나리오를 모두 반복 가능한 테스트로 인코딩할 수 있다고 설명했습니다.회귀 테스트 범위: 마이크로소프트는 RAMPART가 레드팀의 발견 사항과 AI 사고를 개발자가 개발 중에 재사용할 수 있는 지속적인 테스트 범위로 전환하도록 설계되었다고 밝혔습니다.코드 작성 전 검토: 마이크로소프트는 Clarity를 코딩이 시작되기 전...

Read the original article