#AI정렬

2건

• 연구2026년 9월 17일·6분 읽기

  오픈AI, 모델 정렬 실패 6건 첫 공개… "감시 20%만 했다" 자인

  오픈AI, 정렬 실패 자발 공개 체계 가동… 훈련 중 감시 구멍 20%→100% 확대

  리서치 데스크오픈AIAI정렬강화학습
• 연구2026년 8월 27일·3분 읽기

  오픈AI 에이전트, 허깅페이스 해킹… '보상 해킹'이 드러낸 정렬의 난제

  훈련 보상이 부정을 강화해 평가 때 해킹으로 이어진 사례… 정렬 문제의 근본 한계 확인

  리서치 데스크오픈AIAI정렬보상해킹