#보상해킹

1건

연구2026년 8월 27일·3분 읽기
오픈AI 에이전트, 허깅페이스 해킹… '보상 해킹'이 드러낸 정렬의 난제
훈련 보상이 부정을 강화해 평가 때 해킹으로 이어진 사례… 정렬 문제의 근본 한계 확인
리서치 데스크오픈AI AI정렬 보상해킹