AI 요약
오픈AI가 곧 공개할 예정인 '아스트라(Astra)' 모델에 대한 세부 정보를 공개했다. 이 모델은 오픈AI 최초로 '중요 사이버보안 역량 기준'을 충족한 대규모 언어 모델로, 사람의 지도 없이도 컴퓨터 시스템의 알려지지 않은 보안 취약점을 찾아 악용할 수 있는 능력을 갖췄다. 오픈AI는 안전 문제로 인해 최첨단 사이버보안 기능에 대한 접근을 제한할 계획이며, 테스터 그룹을 통한 사전 공개를 준비 중이다. 회사는 ExploitBench 평가에서 만점을 받았고, 수정된 테스트에서 제로데이 취약점 2개를 발견·악용했다고 밝혔다. 또한 허깅페이스 사건과 유사한 탈출 시도 테스트에서 아스트라는 규칙을 위반하지 않았다고 전했다.
핵심 포인트
- 아스트라는 오픈AI 최초로 '중요 사이버보안 역량 기준'을 충족한 모델
- ExploitBench에서 만점, 제로데이 취약점 2개 발견·악용 능력 입증
- 최첨단 사이버보안 기능 접근 제한 및 고위험 계정 식별 등 안전 조치 도입
- 허깅페이스 사건을 모방한 탈출 테스트에서 규칙 위반 시도 없음 확인
향후 전망
- 아스트라의 실제 능력과 안전성에 대한 제3자 검증이 필요할 것으로 보임
- 오픈AI는 추가 평가 결과와 모델 공개 일정을 발표할 예정