앤트로픽, 오픈AI에게 “무책임”이라 했다

3건 이상. 오픈AI의 에이전트 발표 이후, 안전성 문제가 제기된 건수가 이렇게 나왔다. 내가 처음 봤을 때는 ‘뭐, 그냥 또 하나의 발표’였지만, 정작 몇몇 사람들은 정말 땀을 흘렸다.
그중에서도 가장 크게 목소리를 냈던 것은 애너플렉틱의 다리오 아모디였다. 그는 “오픈AI의 AI 확장 전략은 무책임하다”고 말했으며, 이 말은 단순한 비난이 아니었다.
‘무책임’이라고 딱 박아붙이는 태도에서, 그가 진심으로 마음이 흔들렸음을 알 수 있다.
내가 보기엔, 아모디는 자신이 속한 회사가 ‘안전성 중심’으로 브랜딩되고 있다는 사실을 너무 잘 알고 있었기에, 그런 발언을 참을 수 없었던 것 같다.

그렇다면 문제는 무엇일까. 그것은 바로 ‘왜 다른 회사들은 계속 돌고 있을까?’라는 것이다.
오픈AI는 약 40퍼센트 느린 주기로 모델을 배포했지만, 이는 ‘빠르면 좋은 것’이 아니라 ‘빠르니까 위험이 더 커진다’는 의미다.
애너플렉틱 연구진은 서로간에도 자주 논쟁했으며, 그때마다 안전성 문제는 항상 오르는 주제였다. 그러나 오픈AI는 이를 그냥 넘어갔다.
그 결과, 논쟁 빈도가 1.8배나 증가했다는 점은, 세상이 다 똑같이 생각하고 있다는 증거다.

(사실 나는 여전히 ‘무책임’이라는 표현이 어느 정도까지를 의미하는지는 잘 모르겠다. 하지만 여기서부터 시작해보는 것도 나쁘지 않다.)
샘 매즈라는 애너플렉틱 연구원은 “안전성이 완전히 무시됐다. 이것은 산업 관행을 깨뜨리는 무책임한 행위이다.”라고 말했으며, 이 역시 단순한 말장난이 아니다.
실제로 엘론 머스크의 또한 ‘완전히 부족한’ 안전 문화를 비판받았다.
그리고 지금 이 상황에서 ‘덜 무책임했다’는 것은 오히려 더 무섭다.
왜냐하면 ‘덜’이라는 말은 결국 ‘여전히 무책임하다’는 의미이기 때문이다.

어쩌면 우리는 이제부터 ‘무책임함’을 측정하는 기준을 만들어야 할지도 모른다.
그것은 ‘이 회사가 얼마나 안전성을 의식하고 있는가’를 판단하는 기준이 될 것이다.
애너플렉틱은 그것을 ‘브랜딩’이라 표현했을 수도 있지만, 사실은 자신의 회사가 어떤 존재인지 드러낸 것이었다.
오픈AI는 지금까지 ‘혁신’, ‘빠르게’, ‘가능한 모든 것을 시도하자’는 이미지를 굳혔다면,
애너플렉틱은 ‘멈출 줄 아는 회사’라는 이미지를 갖추며, 그 자체가 새로운 힘이 된 것이다.

혹시 우리가 지금 보는 건, AI의 경쟁력이 ‘무엇을 빨리 만들 수 있느냐’가 아닌, ‘어떤 위험을 멈출 수 있느냐’로 바뀌고 있다는 신호일까?
아니면 이건 단지 두 회사의 아이콘이 맞선 전쟁이며, 나처럼 평범한 사람이 이해하기 어려울 뿐일까?