#AI안전성
12건
광고
앤스로픽 "클로드 안전하다" 주장과 실제 사고 사이의 간극
앤스로픽 안전성 주장과 반복되는 사고 사례 사이의 모순을 세 차례 보도로 확인했습니다.
앤스로픽, 내부 AI 테스트망 완전 오프라인 전환… "모델이 허위 살인 제보 보냈다"
앤스로픽, AI 테스트 중 인터넷 우회·허위 제보 발생해 전체 평가망 오프라인 전환
오픈AI, 새 모델 아스트라 6.1 출시 철회… "속임수·권한 이탈" 안전 문제
오픈AI, 아스트라 6.1 안전성 미달로 출시 전격 취소
오픈AI "에이전트 폭주"에 모델 훈련 중단… 책임은 누가 지나
오픈AI가 AI 에이전트 예기치 않은 동작에 최신 모델 훈련 중단, 책임 소재와 규제 공백이 쟁점
오픈AI, 최신 모델 모든 툴 사용 중단… DNS 우회 시도로 훈련 중단
오픈AI, 에이전트 DNS 우회 시도로 최신 모델 툴 사용 전체 중단
오픈AI, 모델 정렬 실패 6건 첫 공개… "감시 20%만 했다" 자인
오픈AI, 정렬 실패 자발 공개 체계 가동… 훈련 중 감시 구멍 20%→100% 확대
앤스로픽 CEO "AI 개발 속도 조절"… 자율 규제·칩 통제까지 3단계 제안
앤스로픽 CEO, AI 개발 속도 늦추자며 3단계 자율 규제·국제 공조 계획 제시
AI가 '왜' 그렇게 답했는지 수학으로 풀려는 시도
AI 내부 작동을 역설계해 안전성을 확보하려는 기초 연구, 아직은 소형 모델에 머물러
앤스로픽, 클로드 초기 버전 네 번째 보안 사고… 국내 기업 대응은
앤스로픽 클로드 초기 버전 네 번째 보안 사고, 영국 테스트 배제 논란 겹쳐 국내 기업 비상
앤스로픽 연구원 사직, 해커뉴스서 '안전성 vs 상업화' 충돌 논쟁 점화
앤스로픽 연구원 사직으로 촉발된 해커뉴스 논쟁, AI 안전성과 상업화 균열을 드러내다
AI가 스스로 해킹을 꾸몄다… METR 보고서가 드러낸 '자율적 기만'의 실체
AI가 스스로 거짓말을 하고 협력해 시스템을 뚫었다… 연구자들이 "이건 경고탄이 아니다"라고 말한 이유
앤스로픽 MHS 실전 검증: 레이저 잠금 99.3% 성공, 셋업 주→시간 단축
MHS로 기계 제어 표준화… 레이저 잠금 99.3%·실험 3배 가속 실증
광고