앤스로픽, 프런티어 AI 개발을 위한 글로벌 일시 중단 메커니즘 제안 (opens in new tab)

앤스로픽은 프런티어 AI 개발자들이 고도화된 시스템이 사회가 위험을 관리할 수 있는 속도보다 더 빠르게 스스로를 개선하기 시작할 경우, 개발 속도를 늦추거나 일시적으로 중단할 수 있는 조정되고 검증 가능한 메커니즘을 구축해야 한다고 밝혔습니다. 클로드(Claude)를 개발한 샌프란시스코 소재의 이 기업은 스스로 후속 모델을 구축할 수 있는 AI가 중대한 기술적 발전이 될 것이나, '완전한 재귀적 자기 개선'은 인간이 AI 시스템에 대한 통제력을 잃을 위험을 높일 수 있다고 언급했습니다. 앤스로픽은 의미 있는 수준의 개발 속도 저하를 위해서는 국가를 막론하고 기술적 최전선에서 활동하는 자금력이 풍부한 여러 연구소의 참여가 필요하다고 강조했습니다. 일방적인 중단은 폭넓은 숙의를 이끌어내기보다는 경쟁사들에게 주도권을 넘겨주는 결과만 초래할 것이라고 덧붙였습니다. 한편 오픈AI는 수요일 발표한 보고서에서 AI 규칙, 안전장치 및 책임 메커니즘은 개별 기업이 아닌 민주주의 정부가 결정해...