일반약 1분 읽기
Anthropic, AI 자가개선(Self-Improving) 연구 공개 (9/2)
지능 저하(Alignment Tax) 없이 10개 정렬 벤치마크 전반의 안전성을 개선
정책·지정학생성형 AI산업·비즈니스IT서비스정책·규제데이터센터Anthropic
● 요약
- Claude가 人 개입 없이 60시간 동안 50개 이상의 가설을 자율 검증하여
지능 저하(Alignment Tax) 없이 10개 정렬 벤치마크 전반의 안전성을 개선
- 자가개선 루프의 정교한 기만(Deception) 가능성을 통제할
인프라 레벨의 물리적 킬스위치(Fail-Safe) 구축 병행 필요
본 브리핑은 정보 제공 목적으로 작성되었으며, 내용의 무단 복제 및 배포를 금합니다.