살인 로봇의 개발은 올때까지 왔다! 이제 통제 불능!

엘론 머스크와 스티븐 호킹 박사는, 인공 지능이 인류에게 적대하게 되어 발생될 수 있는 위험성에 대해서 우려하고 있는 것으로 알려져 있습니다.

실제로 미 국방부는 로봇 무기 개발 예산으로 180억 달러(약 21조)를 예상하고 있으며, 휴먼 라이츠 워치를 비롯한 비영리 단체들은 그 개발을 막기위해 활동을 하고 있습니다.

다양한 도구들이 전쟁에 이용되어 왔지만, 그 용도를 선택하는 것은 결국 인간이었습니다.

그러나 이제 그 선택권을 기계에게 맡기게 될 가능성이 점점 높아지고 있습니다.

이제는 살인 로봇의 개발을 금지한다 해도 이미 늦었으며, 그것은 임시적인 해결책 밖에 되지 않는다고 버팔로 대학의 Tero Karppi 조교는 주장합니다.

"우리는 살인 로봇이라는 용어를 더 작은 문화적 기법을 통해 해체해야 합니다." 라고 말하는 그는 자동화, 인공 지능 시스템의 실패에 대한 전문가이기도 합니다.

"기계 학습, 패턴 인식, 예측 모델의 역사와 이들이 착상되었던 방법 부터 다시 살펴볼 필요가 있습니다" 라고 주장하고 있는 Tero Karppi는 "자동화 시스템 구축의 원리와 이념이 무엇인가?" 라고 묻고 있습니다.

"인류는 로봇보다 더 나은 결정을 내릴 수 있는가? 만약 그렇지 않다면 인간과 로봇을 구분하는 것은 무엇인가? 우리가 로봇이 무엇인지에 대해 정의를 내리기 전에 문화와 사회속에서 인간이라는 것이 무엇을 의미하는지 먼저 정의를 내려야 합니다."

"지금까지 인류는 전쟁터에서 방아쇠를 당겨줄 대리인을 이용하여 왔지만, 이 대리인이 로봇이 되는 경우에는 도대체 어떻게 되는 것일까요?

그것은 매우 복잡한 일이며, 우리는 어떠한 결정이 특정한 상황에서 내려지게된 이유조차 알 수 없게 될 것입니다."

그는 기계가 윤리의식을 가질 수 있는 프로그램을 개발하는 것이 관건이라고 주장합니다.

하지만 소프트웨어와 윤리 시스템이 특정 규칙에 의거하여 기능하게 되는 것은 무엇을 의미하는 것일까? 또한 입력되는 윤리 의식은 누구의 것을 채용하면 좋은 것인가? 

예를 들어, 무인 자동차는 교통 법규에 따라 주행, 정지, 좌우 회전 등의 조치를 취할 수 있을 것입니다.

하지만 자동 무기라면 적과 아군을 구별하지 않으면 안됩니다. 그리고 더 중요한 것은, 적들이 항복해 오면 공격을 하지 말아야 하는 상황도 생길 수 있습니다.

또는 군인과 민간인, 인간과 기계, 생존자와 사망자의 구별도 필요하며, 이러한 모든 것들을 전적으로 로봇에게 맡길 수는 없을 겁니다.

Tero Karppi는 기술적으로 무엇이 가능한지가 아니라, 기술의 발전을 추진하는 이데올로기, 문화적, 정치적 동기에 대해 초점을 맞추어야 한다고 주장합니다.

이러한 발언들은 Leverhulme Centre for the Future of Intelligence의 설립을 기념하는 케임브리지 강연에서 이루어 졌습니다.

호킹 박사는 인공 지능의 발달로 인해 그 자체가 의사를 가지고 인류를 적대하게 될 가능성에 대해 오래전 부터 우려를 표명하고 있습니다.

그것은 강력한 자동 무기의 탄생과 소수가 다수를 지배하게 되는 수단의 전조가 될지도 모른다고 합니다.

하지만, 이러한 위험을 피하기 위한 연구가 충분히 이루어지면 질병과 빈곤을 해소할 수 있게 되고, 인류의 염원을 실현하는데 도움이 될 수도 있을 것이라고 합니다.

불의 이용과 농업에서 부터 우주의 이해까지, 문명의 위대한 업적은 모든 인간이 가지고 있는 지능의 산물이라 할 수 있습니다.

지능의 성과라는 의미에서, 그러한 것들을 완수하는 주체가 생물학적인 뇌가 되었든 컴퓨터가 되었든 큰 차이는 없다고 할 수 있습니다.

현재 인공 지능은 급격하게 발전하고 있으며, 막대한 투자가 이루어지고 있습니다.

그 잠재적인 혜택은, 지금까지 산업화에 의해 자연이 받았던 데미지를 모두 복구할 수 있는 수준의 혜택이 될 가능성도 있다고 합니다.

호킹 박사는 인공 지능의 등장이 인류 문명 사상 최대의 사건이 될지도 모른다고 말하고 있습니다.

그것이 인류에게 도움이 될지, 재앙이 될지는 아직 알 수 없다고 합니다.