앤트로픽 최고경영자 다리오 아모데이가 AI 모델의 성능 강화 속도를 늦추자고 제안했습니다.
핵심은 개발을 멈추자는 요구보다 안전 평가가 기술 진보를 따라갈 시간을 확보하자는 데 있습니다.
경쟁 관계의 샘 올트먼과 일론 머스크도 외부 감독 논의에 동의 의사를 밝혔습니다.
3줄 요약
1. 아모데이는 AI 개발 속도 조절을 제안했습니다
2. 외부 감독자에 내부 접근권을 제시했습니다
3. 동의 발언은 실행 완료와 다릅니다
개발 속도와 안전 평가 사이의 간격
다리오 아모데이 앤트로픽 최고경영자(CEO)는 블로그를 통해 AI 모델의 역량 강화 속도를 늦추고, 안전 평가 체계가 기술적 진보를 따라잡을 시간을 확보해야 한다고 주장했습니다. 개발 경쟁에서 성능을 높이는 일과 위험을 검토하는 일이 같은 속도로 진행되지 않을 수 있다는 문제 제기입니다.
아모데이는 외부 감독 인력에게 내부 직원과 같은 수준의 접근권을 주는 방안도 제시했습니다. 안전성을 회사 내부 판단에만 맡기지 않고, 독립적인 평가자가 내부 환경에서 점검할 수 있게 하자는 취지입니다. 접근 가능한 정보의 범위, 감독 인력의 선정 방식, 평가 결과의 공개 방식은 아직 알려지지 않았습니다.
오픈AI를 떠난 뒤 내세운 헌법적 AI
아모데이는 오픈AI 초기 핵심 구성원으로 연구 담당 부사장을 지냈고, 2021년 앤트로픽을 세웠습니다. 머니투데이는 그가 오픈AI의 비전에 의문을 품고 회사를 떠났다고 전했습니다. 앤트로픽은 모델을 출시하기 전 기술적 정렬, 즉 AI가 정해진 규율과 목표에 맞게 작동하도록 하는 과정을 강조하는 헌법적 AI를 내세웠습니다.
오픈AI의 GPT, 앤트로픽의 클로드, xAI의 그록은 서로 경쟁하는 AI 모델입니다. 이런 구도에서 아모데이의 발언은 모델 성능 경쟁뿐 아니라 개발과 검증의 순서도 논의 대상이 돼야 한다는 뜻을 담고 있습니다.
머니투데이에 따르면 9월 12일 현지시간 아모데이, 샘 올트먼 오픈AI CEO, 일론 머스크 xAI CEO는 AI 개발에 제동이 필요하다는 취지로 한목소리를 냈습니다. 올트먼은 외부 감독 인력의 접근권 보장에 대해 오픈AI도 같은 방향으로 하겠다는 뜻을 밝혔고, 머스크도 아모데이의 지적에 동의한다는 반응을 보였습니다.
공감 발언과 공동 제도는 다른 문제입니다
이번 논의에서 눈여겨볼 부분은 “안전”이라는 단어의 반복보다 검증 권한입니다. 회사 안의 연구진이 평가하는 것과 외부 인력이 내부와 동등한 접근권으로 평가하는 것은 책임 구조가 다릅니다. 아모데이의 제안은 후자에 무게를 둡니다.
올트먼과 머스크의 발언은 제안에 대한 공감과 계획의 수준입니다. 세 회사가 같은 감독 제도를 실제로 도입했는지, 공동 일정이나 세부 기준을 정했는지는 확인된 결과가 아닙니다. 이번 발언의 의미는 안전 평가를 출시 뒤의 점검이 아니라 개발 경쟁의 조건으로 놓자는 요구가 경쟁사 대표들 사이에서도 공개적으로 제기됐다는 데 있습니다.