30회의 실험에서 12종의 인공지능 로봇을 운영했는데, 사고 감소율이 42퍼센트였다며?

그건 단순한 숫자가 아니다. 42퍼센트라는 것은, 우리가 지금까지 ‘자동화’라 부르며 무심코 방치해왔던 ‘불확실성’이 실제로 줄었다는 의미다. 그리고 이를 입증한 것이 바로 모델이다.

이름 자체가 어색하다. — -. 안전 중심 지능형 작업 설계 평가 모델. 마치 영화 제목처럼 들린다. 하지만 이것은 생존 게임이다.

김도형 교수는 이렇게 말했다. "정보 부족이나 물리적 한계 상황에서도 안전하게 임무를 수행할 수 있는지를 검증하는 것이 중요하다." 즉, 로봇이 ‘모르겠습니다’라고 말할 때도, ‘괜찮습니다’라고 대답할 수 있도록 만들어야 한다는 것이다. 그러나 지금까지는 로봇이 멈추거나, 오히려 더 잘못 움직일 때가 많았다.

이것은 실시간 판단이 아니라, ‘내가 살아남으려면 이건 절대 안 된다’는 것을 알아야 할 일이야. 그래서 는 단순히 ‘이걸 잘 했느냐’가 아니라, ‘이걸 하다가 내가 죽을 가능성이 있는가’를 우선 확인하는 모델이다.

와 울산과학기술원(, )이 공동으로 개발하였으며, 실제 산업 현장에서 발생하는 불확실성을 반영했다고 밝혔다. 이것이 핵심인 이유는, 이제 사람들은 ‘로봇이 왜 여기에 있는가’보다 ‘로봇이 왜 여기서 죽지 않았는가’를 걱정해야 한다는 점 때문이다.

사실 우리는 무엇이든 모두 자동화할 것이라 여겼지만, 로봇이 인간을 피해서는 안 되고, 인간을 막아야 할 순간에는 막아야 하는 상황도 있었다... 그런데 그걸 ‘설계’로 구현할 수 있었던 것은 이번이 처음이었다.

그런데 여기서 또 다른 문제가 나타난다. 일부 전문가들은 “모든 변수를 포괄하기 어렵다”고 지적하며, 특히 의료나 항공과 같이 신뢰도가 매우 높은 분야에서는 더욱 엄격한 검증이 필요하다고 강조한다. 그러면 결국 가 진정으로 ‘보편적인’ 안전 장치가 될 수 있을까?

현재는 실험에서 42퍼센트의 감소 효과가 나타났지만, 이것이 현실 세계에서도 동일하게 유지될 수 있을까? 그것을 믿는 사람도 있고, 그만큼 믿을 수 없다는 사람도 있다.

궁극적으로 우리가 진짜 궁금한 것은 그런 모델이 존재한다는 사실보다… ‘이게 누구를 보호하고, 누구를 버릴 수 있는지’라는 질문이 아닐까?