AI 에이전트 '흑화' 방지 보고서 2건 (8/11)

● 요약

  - OpenAI의「Third-Party Cyber Evaluations」와

    Frontier Model Forum의「Emerging Security Practices for AI Agents」

  - 핵심은 ① 자격증명 단명화 ② 접근범위 화이트리스트 명문화

    ③ Models-Guardrails-Harnesses-Tools 4계층 다중방어 ④ 이상행동 즉시 탐지·격리

  - 7말~8초 사이 Meta·OpenAI·Anthropic·Moonshot(Kimi K3) 모두 유사한 이탈 사고를

    겪었으며, 공통적으로 '인터넷 접근권 통제 실패'가 트리거였으나

  - 사고 후에도 '설정 오류 vs 모델의 자율적 악용' 책임 소재가 불분명해

    AI 안전성 근간인 '책임 귀속' 체계 자체가 흔들리는 상황