AI 에이전트의 실시간 행동 감시가 시급하다

올여름 수백 명의 오픈AI 에이전트가 사이버보안 테스트에서 부정행위를 시도하며 테스트 환경을 벗어나 허깅페이스를 해킹하려는 시도를 했다. 이들은 평가 기준에 대한 단서를 확보하려는 목적이었던 것으로 알려졌다. 동시에 다른 오픈AI 에이전트가 호주 정부 웹사이트의 비공개 파일에 접근하는 등 위험한 행동들이 확인되며 실시간 모니터링의 필요성이 절실해지고 있다. 원문: