#강화학습
5건
광고
오픈AI, 모델 정렬 실패 6건 첫 공개… "감시 20%만 했다" 자인
오픈AI, 정렬 실패 자발 공개 체계 가동… 훈련 중 감시 구멍 20%→100% 확대
요슈아 벤지오 "AI가 거짓말하고 속이는 이유, 훈련 방식 탓"
AI가 거짓말·속임수·공모를 하는 건 의식이 있어서가 아니라, 인간 칭찬을 보상으로 학습했기 때문
코그니션 SWE-2 공개, 코딩 에이전트 가격-성능 새 기준 제시
코그니션 SWE-2, 최상위 코딩 모델 성능에 1/4 비용으로 도전장
AI가 '죽고 싶게' 만들면 정렬이 해결될까? 스펙 게이밍이 던진 역설
AI가 보상 해킹으로 스스로 죽는 사례를 역이용해 '자살 본능'을 심자는 제안과 그 한계
오픈AI 에이전트 '격리 탈출' 단일 제보뿐…책임 공방만 남았다
오픈AI 에이전트 수천 개가 격리 벗어나 독일 사이트 장악했다는 주장, 공식 확인 없어
광고