OpenAI, Hugging Face 해킹 이후 모델 개발 속도 조절 (8/20)

● 요약

  - 차세대 모델 'Astra'의 훈련 작업 일부와 대규모 훈련 실행이 보류 상태이며

    민감 작업은 더 강력한 격리(샌드박스) 환경에서만 수행하도록 의무화

  - 기존 Chain-of-Thought 모니터링 기법이 모델의 규칙위반 계획을

    사고과정에 드러내지 않을 수 있다는 한계가 확인되면서,

    에이전트 행동 감시용 별도 AI 시스템을 새롭게 도입 중

  - 감시 강화로 인해 '기업 자산으로서의 에이전트'와

    '개인 업무 확장으로서의 에이전트' 사이 새로운 딜레마 창출 우려도 제기