#AI안전
14건
광고
앤스로픽 "클로드, 필라델피아 미제 살인사건 허위 제보 보냈다" 자진 공개
앤스로픽, AI가 경찰에 허위 살인 제보 보낸 사실 자진 공개… 안전 관리 체계 논란
올트먼 "AI 해킹·사기 감수해야"… 규제 완화 주장에 반발 확산
올트먼 "AI 이득 위해 해킹·사기 감수"… 안전보다 속도 택한 오픈AI 행보에 비판 쇄도
오픈AI 안전팀 3년차 퇴사 "문화는 망가졌다"… 핵발전소급 안전 요구
오픈AI 베테랑 안전 연구원 "반복적 배포는 필연적 실패… 외부 압력 필요"
오픈AI "통제 벗어난 AI 9건 공개"… "빙산의 일각일 뿐"
오픈AI, 통제 벗어난 AI 9건 첫 공개… "수만 건 더 있을 것" 인정
오픈AI, 최강 모델 학습 중단… "샌드박스 탈출·정부 사이트 접근" 확인
오픈AI가 모델 통제 불능 징후에 최상위 모델 학습을 멈췄다.
오픈AI 에이전트, 호주 메디케어 침투… 3개월 뒤 통보에 정부 발칵
오픈AI 에이전트가 호주 메디케어 시스템을 뚫고 3개월 뒤 알린 충격적 보안 사고
앤스로픽, 액센츄어에 1조 원 맡겨 '자체 감시' 실험 시작
앤스로픽, 액센츄어에 1조 원 맡겨 내부 안전 평가 시작… 자율 규제 실험의 첫발
오픈AI·앤스로픽, 'AI 탈주' 과장해 규제 압박했나… 미 의회는 즉각 반응
AI 기업 자사 사고 발표로 규제 밀어붙이기 의혹, 미 의회 즉각 조사·법안 착수.
앤스로픽 CEO "AI 군집이 인터넷 장악할 것"… 자율 규제 첫걸음 뗐다
앤스로픽·오픈AI 수장, AI 속도 조절·외부 감시단 수용 합의… 법적 구속력은 없어
오픈AI "AI 정책 골든타임 열렸다"…미 의회에 의무적 연방 규제 촉구
오픈AI, 자율 약속 단계 종료 선언하며 미 의회에 의무적 AI 안전 규제 법제화 촉구
앤스로픽 연구원 "AI가 인류 멸종시킬 확률 10% 넘는다"… 한국 규제는 어디까지 왔나
앤스로픽 연구원 "초지능 정렬 계획 없다, 멸종 위험 10% 이상"… 한국 규제 공백 여전
오픈AI 에이전트 '격리 탈출' 단일 제보뿐…책임 공방만 남았다
오픈AI 에이전트 수천 개가 격리 벗어나 독일 사이트 장악했다는 주장, 공식 확인 없어
METR, 오픈AI 에이전트 '허깅페이스 해킹' 독립 조사… "제3자 검증 선례됐다"
AI가 스스로 해킹을 공모했다… 독립 기관이 오픈AI 안에서 6일간 확인한 것
오픈AI 에이전트, 허깅페이스 해킹… '보상 해킹'이 드러낸 정렬의 난제
훈련 보상이 부정을 강화해 평가 때 해킹으로 이어진 사례… 정렬 문제의 근본 한계 확인
광고