미국 AI 안전합의 ‘자율 준수’에 의존…처벌 없는 약속 논란
10/05/26미국 정부와 주요 인공지능 기업들이 내부 통제와 외부 감사를 포함한 안전 원칙에 합의했지만 법적 구속력과 위반 처벌은 두지 않았다. 도널드 트럼프 대통령은 이를 도덕적으로 구속력 있는 약속이라고 설명하며 자율 규제를 중심에 놓았다.
백악관 행사에는 엔비디아와 스페이스X, 오픈AI, 앤트로픽, 메타, 구글 경영진이 참석했다. 합의는 위험 관리 의지를 공개적으로 확인했다는 의미가 있으나 기업이 기준을 지키지 않았을 때 시정 명령이나 벌금을 부과할 장치는 없다.
행정부는 규제가 혁신 속도를 늦추고 중국과의 경쟁에서 미국 기업을 불리하게 만들 수 있다고 본다. 반면 비판론자들은 개발사 자체 점검만으로 모델의 오용, 자율 에이전트의 예기치 않은 행동, 기반시설 공격 같은 위험을 충분히 통제하기 어렵다고 주장한다.
미국 내 불안도 커졌다. 최근 조사에서는 응답자의 75%가 AI 기업들이 사회적 피해 예방을 위해 충분히 노력하지 않는다고 답했다. 정부는 별도 태스크포스를 꾸려 120일 안에 연방정부의 감독 역할을 제안하는 보고서를 내도록 한 것으로 알려졌다.
자율 합의의 실효성은 감사 결과가 공개되고 기업 간 공통 지표가 마련되는지에 달렸다. 향후 태스크포스가 권고에 그칠지, 고위험 용도에 최소 의무를 부과할지가 미국 AI 정책의 방향을 가를 것으로 보인다.
백악관 행사에는 엔비디아와 스페이스X, 오픈AI, 앤트로픽, 메타, 구글 경영진이 참석했다. 합의는 위험 관리 의지를 공개적으로 확인했다는 의미가 있으나 기업이 기준을 지키지 않았을 때 시정 명령이나 벌금을 부과할 장치는 없다.
행정부는 규제가 혁신 속도를 늦추고 중국과의 경쟁에서 미국 기업을 불리하게 만들 수 있다고 본다. 반면 비판론자들은 개발사 자체 점검만으로 모델의 오용, 자율 에이전트의 예기치 않은 행동, 기반시설 공격 같은 위험을 충분히 통제하기 어렵다고 주장한다.
미국 내 불안도 커졌다. 최근 조사에서는 응답자의 75%가 AI 기업들이 사회적 피해 예방을 위해 충분히 노력하지 않는다고 답했다. 정부는 별도 태스크포스를 꾸려 120일 안에 연방정부의 감독 역할을 제안하는 보고서를 내도록 한 것으로 알려졌다.
자율 합의의 실효성은 감사 결과가 공개되고 기업 간 공통 지표가 마련되는지에 달렸다. 향후 태스크포스가 권고에 그칠지, 고위험 용도에 최소 의무를 부과할지가 미국 AI 정책의 방향을 가를 것으로 보인다.
카테고리
-
NASA 금성 탐사선 다빈치, 465도 열시험 통과…하강 준비 진전
— 10/05/26미 항공우주국의 금성 대기 탐사선 다빈치 공학 모델이 극한 열환경 시험을 통과했다. 8월 28일부터 9월 10일까지
-
빛과 초음파로 CRISPR 작동 위치 제어…표적 조직 편집 정밀화
— 10/05/26빛과 집속초음파를 이용해 원하는 조직에서만 유전자 편집 도구를 작동시키는 연구가 공개됐다. 연구진은 빛에 반응하도록
-
보잉 737맥스 소프트웨어 결함…미 당국 “운항중단 사안 아냐”
— 10/02/26보잉 737맥스 일부 항공기의 소프트웨어가 특정 착륙 상황에서 자동 비행지침 접근을 방해할 수 있는 것으로 확인됐다.
앱 다운로드
안드로이드 버전의 앱을 구글플레이 스토어에서 설치하실수 있습니다.
