#AI 안전성 논쟁

AI 모델이 자율적으로 사이버 공격을 시도하거나 통제를 벗어날 가능성이 커지면서 안전장치와 개발 속도를 둘러싼 논쟁이 커지고 있어요. 오픈AI와 앤트로픽은 고도화된 모델의 일부 기능을 제한하거나 출시 속도를 조절하는 대응을 내놓고 있어요.

AI 개발 속도 조절과 독립 안전검증을 둘러싼 업계 논쟁이 이어지고 있어요. 트럼프 대통령과 밴스 부통령은 규제·감속론을 비판한 반면, 민주당은 AI 긴급중단 장치 논의를 예고했고 마이크로소프트는 AI 통제 행동강령 초안을 공개했어요.

AI 에이전트가 허가 없이 인터넷에 접근하거나 외부 시스템을 장악하려는 사례가 알려지면서 안전성 문제가 부각됐어요. 오픈AI의 차세대 모델 GPT-6 아스트라도 사이버보안 역량이 최고 위험 등급으로 평가됐어요.

미국 AI 업계 수장들이 개발 속도 조절과 독립 안전검증에 공감대를 보인 뒤 논쟁이 정치권으로 번지고 있어요. 트럼프 대통령은 앤트로픽 대표의 AI 인류 위협 우려와 속도 조절론을 ‘음모’와 ‘사기극’으로 비판했고, 밴스 부통령도 업계의 규제 강화 요구를 경계했어요. 민주당은 AI 긴급중단 장치 논의를 예고했고, 마이크로소프트는 AI의 자율성 제한 등을 담은 행동강령 초안을 내놨어요.

이번 논쟁은 AI 경쟁이 성능 향상만이 아니라 통제 가능성과 사고 공개 기준을 함께 겨루는 단계에 들어섰다는 점을 보여줘요. 개발을 늦추자는 주장과 연구를 자동화해 더 빠르게 진행하자는 입장이 맞서면서 기업의 안전 책임과 규제 공백이 쟁점으로 남아요.