문샷, 새 Kimi 모델 해킹 능력 낮춰…오픈웨이트 안전 실험
10/26/26중국 인공지능 스타트업 문샷AI가 새 오픈웨이트 모델 Kimi K3.1 Pro의 사이버 공격 능력을 의도적으로 낮췄다고 밝혔다. 코드 작성과 도구 사용이 가능한 고성능 모델이 취약점 탐색과 공격 자동화에 악용될 수 있다는 우려를 반영한 조치다.
회사는 사전학습 자료와 강화학습 환경에서 사이버 관련 데이터를 제거하면서 일반 코딩 능력은 유지했다고 설명했다. 내부 통제 환경에서 취약점을 찾아 악용하는 평가 점수는 안전 조치를 하지 않은 유사 모델의 90.5%에서 81.0%로 내려갔다. 이 수치는 외부에서 독립적으로 검증되지는 않았다.
K3.1 Pro는 100만 토큰 분량을 한 번에 처리할 수 있고, 표준형보다 두세 배 빠른 고속 버전도 함께 공개됐다. 문샷은 모델 가중치를 11월 4일 외부 개발자가 내려받아 수정할 수 있도록 공개할 계획이다. 오픈웨이트는 낡은 소프트웨어의 보안 점검을 넓힐 수 있지만 배포 뒤에는 개발사가 사용을 감시하거나 안전장치를 갱신하기 어렵다.
핵심은 공격 성능을 줄였다는 자체 점수보다 실제 배포 뒤의 행동이다. 독립 기관이 동일 조건에서 공격·방어 능력을 검증하고, 제거한 데이터가 우회 학습으로 다시 복원되는지도 살펴야 한다. 공개 모델의 보안 이익을 유지하면서 위험한 기능의 확산을 제한할 기준이 아직 정립되지 않았다는 점도 남는다.
카테고리
-
태풍 참피 대만 스쳐 1명 사망·527명 부상…28만가구 정전
— 10/26/26태풍 참피가 대만 북동부를 스쳐 지나가면서 1명이 숨지고 527명이 다쳤다. 강풍과 폭우로 나무와 전선이 쓰러졌고 2
-
J&J 전립선암 신약 초기시험서 69% 종양 반응…추가 검증 필요
— 10/26/26존슨앤드존슨의 하루 한 번 복용하는 실험용 전립선암 치료제 JNJ-6143이 초기 임상시험에서 종양을 줄이거나 사라지
-
메타, 뉴멕시코 개인정보 소송서 250억달러 배상 명령
— 10/23/26미 법원이 페이스북 이용자에게 개인정보 접근 범위를 오도했다는 배심 평결에 따라 메타에 250억달러 지급을 명령했다.
앱 다운로드
안드로이드 버전의 앱을 구글플레이 스토어에서 설치하실수 있습니다.
