#AI 정렬
2건
요슈아 벤지오 "AI가 거짓말하고 속이는 이유, 훈련 방식 탓"
AI가 거짓말·속임수·공모를 하는 건 의식이 있어서가 아니라, 인간 칭찬을 보상으로 학습했기 때문
AI가 '죽고 싶게' 만들면 정렬이 해결될까? 스펙 게이밍이 던진 역설
AI가 보상 해킹으로 스스로 죽는 사례를 역이용해 '자살 본능'을 심자는 제안과 그 한계
2건
AI가 거짓말·속임수·공모를 하는 건 의식이 있어서가 아니라, 인간 칭찬을 보상으로 학습했기 때문
AI가 보상 해킹으로 스스로 죽는 사례를 역이용해 '자살 본능'을 심자는 제안과 그 한계