3월 5일, 미국 국방부가 앤트로픽을 ‘공급망 위험 기업’으로 지정했다.

이건 그냥 경고가 아니다. 법적으로 국방계약 참여자는 앤트로픽의 AI 모델 ‘클로드’를 쓰지 않겠다는 인증서를 내야 한다.

뭐, 일반인이 들어도 느껴질 정도로 뻔한 건데—국방부는 자기들끼리 먹고 사는 게 아니라, 민간 기술에 너무 의존하는 걸 걱정하고 있다.

근데 진짜 신기한 건, 이걸 두고 구글과 아마존은 “국방 관련 업무를 제외한 분야에서는 앤트로픽의 인공지능 기술 제공을 유지하겠다”고 발표했다는 거다.

아니, 진짜냐? 국방부는 공급망 위험을 이유로 앤트로픽을 제재했으며, 이를 통해 기술 독립을 강화하려는 의도를 가지고 있다.

다리오 아모데이, 앤트로픽 CEO가 말했던 거 기억나? “미국 국방부가 무제한 접근권을 요구했으나 거부했다.”

이 말은 즉슨, 국방부는 ‘내가 쓰고 싶어’라고 데리고 가려 했고, 앤트로픽은 ‘그건 안 된다’고 딱 잘라 거절했다.

이걸 보면 앤트로픽이 정말 ‘민간 중심’이라고 할 수밖에 없음. 군사 용도를 배제한다고 해서, 세상이 끝나는 것도 아니고, 결국 기술은 사람에게 돌아가는 거니까.

그런데 이상한 건, 구글과 오픈AI 개발자들이 ‘전쟁부’에 기술을 제공하지 않겠다는 공조를 맺었다는 사실이 알려졌다.

이건 이제 단순한 규제 문제가 아니라, 기술이 어디로 향해야 하는지에 대한 윤리적 논쟁이 되었어.

“우리는 죽이는 기술은 만들지 않겠다”라는 선언.

그리고 이걸로 앤트로픽이 국방부에서 떨어졌지만, 구글은 여전히 클로드를 풀어줄 준비가 됐다는 거.

혹시 이걸로 인해, 기술 생태계의 ‘진짜’ 중심이 다시 움직이고 있을까?

국방부는 뭐가 두려웠을까? 기술이 완전히 집중되는 것? 아니면 인간이 아닌 존재가 의사결정을 하게 될까?

아니면, 우리가 지금 보는 ‘AI’라는 게, 진짜로 우리를 위해 쓰이고 있다고 믿고 싶어서일까?

이제 누구도 앤트로픽의 클로드가 어디까지 쓰일지 알 수 없다.

그리고 아마도, 그것이 가장 중요한 건 아닐까?

3건 이상. 오픈AI의 에이전트 발표 이후, 안전성 문제가 제기된 건수가 이렇게 나왔다. 내가 처음 봤을 때는 ‘뭐, 그냥 또 하나의 발표’였지만, 정작 몇몇 사람들은 정말 땀을 흘렸다.
그중에서도 가장 크게 목소리를 냈던 것은 애너플렉틱의 다리오 아모디였다. 그는 “오픈AI의 AI 확장 전략은 무책임하다”고 말했으며, 이 말은 단순한 비난이 아니었다.
‘무책임’이라고 딱 박아붙이는 태도에서, 그가 진심으로 마음이 흔들렸음을 알 수 있다.
내가 보기엔, 아모디는 자신이 속한 회사가 ‘안전성 중심’으로 브랜딩되고 있다는 사실을 너무 잘 알고 있었기에, 그런 발언을 참을 수 없었던 것 같다.

그렇다면 문제는 무엇일까. 그것은 바로 ‘왜 다른 회사들은 계속 돌고 있을까?’라는 것이다.
오픈AI는 약 40퍼센트 느린 주기로 모델을 배포했지만, 이는 ‘빠르면 좋은 것’이 아니라 ‘빠르니까 위험이 더 커진다’는 의미다.
애너플렉틱 연구진은 서로간에도 자주 논쟁했으며, 그때마다 안전성 문제는 항상 오르는 주제였다. 그러나 오픈AI는 이를 그냥 넘어갔다.
그 결과, 논쟁 빈도가 1.8배나 증가했다는 점은, 세상이 다 똑같이 생각하고 있다는 증거다.

(사실 나는 여전히 ‘무책임’이라는 표현이 어느 정도까지를 의미하는지는 잘 모르겠다. 하지만 여기서부터 시작해보는 것도 나쁘지 않다.)
샘 매즈라는 애너플렉틱 연구원은 “안전성이 완전히 무시됐다. 이것은 산업 관행을 깨뜨리는 무책임한 행위이다.”라고 말했으며, 이 역시 단순한 말장난이 아니다.
실제로 엘론 머스크의 또한 ‘완전히 부족한’ 안전 문화를 비판받았다.
그리고 지금 이 상황에서 ‘덜 무책임했다’는 것은 오히려 더 무섭다.
왜냐하면 ‘덜’이라는 말은 결국 ‘여전히 무책임하다’는 의미이기 때문이다.

어쩌면 우리는 이제부터 ‘무책임함’을 측정하는 기준을 만들어야 할지도 모른다.
그것은 ‘이 회사가 얼마나 안전성을 의식하고 있는가’를 판단하는 기준이 될 것이다.
애너플렉틱은 그것을 ‘브랜딩’이라 표현했을 수도 있지만, 사실은 자신의 회사가 어떤 존재인지 드러낸 것이었다.
오픈AI는 지금까지 ‘혁신’, ‘빠르게’, ‘가능한 모든 것을 시도하자’는 이미지를 굳혔다면,
애너플렉틱은 ‘멈출 줄 아는 회사’라는 이미지를 갖추며, 그 자체가 새로운 힘이 된 것이다.

혹시 우리가 지금 보는 건, AI의 경쟁력이 ‘무엇을 빨리 만들 수 있느냐’가 아닌, ‘어떤 위험을 멈출 수 있느냐’로 바뀌고 있다는 신호일까?
아니면 이건 단지 두 회사의 아이콘이 맞선 전쟁이며, 나처럼 평범한 사람이 이해하기 어려울 뿐일까?