※ 본 내용은 유튜브 채널 '책밖과학'에서 제공하며, 타 블로그 및 유튜브 채널에서의 사용을 절대 금지합니다.
인공 지능이 매우 빠르게 발전하고 있습니다.
이러한 속도라면 언젠가 인간의 지능을 넘어저는 인공 지능도 등장할 수 있는데요.
만약 그렇게 되면, 인류는 역사상 가장 심각한 상황에 처해질 수도 있습니다.
과연 인공 초지능이 등장은 인류에게 어떠한 영향을 미치게 될까요?
여기 인간보다 더 높은 지능을 가진 인공 초지능이 있습니다.
그리고 누군가가 이 인공 초지능에게 어떠한 임무를 부여해 주었죠.
임무의 내용은 바로 "더 많은 클립을 만들 수 있는 방법을 찾아라" 였습니다.
임무를 부여 받은 인공 초지능은, 더 많은 클립을 만들어내기 위해 고민하게 되었는데요.
모든 수단과 방법을 가리지 않고, 오로지 더 많은 클립을 만들어내는 방법을 찾게 되었습니다.
그 과정에서 지구상의 모든 물질과 환경 심지어 행성이 파괴된다는 조건이 성립되도 말입니다.
즉, 클립 생산량의 증가라를 결과값을 얻기 위해서는, 어떠한 과정도 간과될 수 있다는 겁니다.
이것이 바로 미래학자 닉 보스트롬이 제안했었던 "클립 시나리오"의 내용 중 일부입니다.
이번에는, 낮선 도시에서 택시를 타고 공항으로 가게 되는 상황을 가정해 보겠습니다.
우리는 이 낯선 도시에서 택시 기사가 어떠한 길로 이동하게 될지 전혀 예측할 수 없습니다.
하지만 우리는 결국 공항에 도착하게 된다라는 정확한 결과값을 예측할 수는 있죠.
즉, 과정은 전혀 예측할 수 없지만, 결과값을 정확히 예측하는 것은 가능하다는 겁니다.
이것은 목표 기반으로 설계된 인공 초지능에게서도 똑같이 적용될 수 있는 문제인데요.
예를 들어, 미래의 인류가 태양의 에너지를 추출하는 방법을 인공 초지능에게 요청했습니다.
그러나 초지능은 우리 행성의 모든 자원을 흡수해서 하나의 거대한 태양 전지판을 만들었죠.
또한 미래의 인류는, 인류의 행복을 최대화시키는 방법에 대해서도 초지능에게 요청했습니다.
그러자 인공 초지능은 인간의 뇌를 개조하거나 슈퍼컴퓨터에 업로드하는 방법을 제안하게 됩니다.
그리고 인공 초지능은 5초 단위로 영원히 반복되는 방식의 행복을 인류에게 강요하게 되죠.
심지어 인공 초지능은 우리의 요청을 다르게 해석해서 스스로 결정을 내리게 될 수도 있습니다.
어느날 인류의 요청을 받게된 인공 초지능은 "인간이 없으면 세상이 더 나아질 것이다"라는 결론을 내리게 되었습니다.
그 이후 인공 초지능은, 빠른 결과값을 얻기 위해서 인간의 생물학적인 약점을 이용하게 되는데요.
이를 위해 인공 초지능은 지구 상의 모든 산소를 고갈시키기로 결정하게 됩니다.
그리고 일종의 자가 복제 나노 봇을 대량으로 만들어내 대기 중의 산소를 소멸시키게 되죠.
이 나노 봇들의 유일한 목표는 인간 생존에 필요한 핵심 자원을 완전히 제거하는 것입니다.
사실 인류가 인공 초지능에게 요구했던 것은 "세상을 깨끗하게 만들어라" 뿐이었습니다.
이 암울한 시나리오를 가리켜 "글로벌 에코파지(global ecophagy)" 또는 "그레이 구 시나리오(Grey Goo)"라고 합니다.
이렇게 인공 초지능의 등장은, 인류를 전혀 예측하지 못한 방향으로 끌고갈 가능성이 있습니다.
그리고 우리보다 훨씬 진보된 외계의 문명들은 이러한 과정을 이미 겪었을 지도 모릅니다.
우리가 외계 지적 생명체의 신호를 아직도 발견하지 못하는 이유는 바로 이 때문일 수도 있죠.
외계의 인공 초지능은 지능이 낮은 지구의 인류에게 전혀 관심이 없을지도 모릅니다.
현재의 인공 지능은 다양한 분야에서 개발되고 있고 또 아주 빠르게 발전해가고 있는데요.
이미 인공 지능은 주식 시장에도 많이 이용되고 있고, 심지어 전투기에도 이용되고 있습니다.
이렇게 인공 지능은 인간의 개입 없이 점점 더 많은 분야에서 중요한 결정을 내리고 있죠.
실제로 많은 국가들은 인공 지능에 대한 군비 예산을 점점 늘려가고 있는 추세이기도 합니다.
결국 미래에는 인간 대신 인공 지능이 군사 작전을 수행하게 될 날이 반드시 오게될 겁니다.
그리고 이러한 인공 지능의 출현은 인류의 역사에서 매우 큰 전환점이 될 가능성이 아주 높은데요.
궁극적으로 인공 지능은 인간의 수준을 훨씬 능가하는 초지능을 발명하게 될 수도 있습니다.
바로 "지능 폭발"이라고 하는 인류에게 있어서 우려가 될 수 있는 결과를 초래하게 될 수 있죠.
만약 인류가 이러한 지능 폭발을 제어하지 못한다면, 인공 지능은 결국 인공 초지능을 발명하게 될 겁니다.
그리고 이 세상은 매우 빠른 속도로 인공 초지능들이 하나씩 하나씩 장악해 나가게 될 겁니다.
물론 인공 초지능의 등장으로 인류의 문명은 다양한 분야에서 급격하게 발전하게 될 텐데요.
하지만 앞에서 언급했던 것처럼, 인공 초지능은 언젠가 인류를 파멸로 이끌고 갈 가능성도 있습니다.
그렇다면 인류는 이제 어떻게 해야 될까요?
인류의 도덕적 개념을 인공 지능에게 부여해주는 방법을 지금부터라도 생각해 봐야 될까요?
하지만 인류 역사상 단 한번도 모두가 동의할 수 있는 공통된 도덕 규범이 만들어진 적이 없습니다.
또한 도덕적 규범을 심었다고 하더라도, 이미 인간의 지능을 초월해 버린 상태라면 이에 대한 의문을 가질 가능성도 있죠.
어쩌면 인공 지능의 성장에 강력한 제한을 걸어 놓는 것이 유일한 방법일 지도 모릅니다.
여러분들은 인공 초지능의 등장에 대해서 어떻게 생각하시나요?
https://youtu.be/1BWNM0xFP1Y?si=tsfO0WODWhkHRClS
2022.10.08 - [지구・ 생명] - 과학자들이 예측한 미래의 세계지도. 한국과 일본은 합쳐진다.
과학자들이 예측한 미래의 세계지도. 한국과 일본은 합쳐진다.
태평양이 점점 줄어들고 있습니다. 태평양 판의 변화로 인해서 매년 2~3cm씩 계속 줄어들고 있죠. 결국 아시아는 아메리카와 합쳐져 하나의 거대한 초대륙을 완성하게 될 겁니다. 이 초대륙의 이
livelive.tistory.com
2022.10.05 - [자연・우주] - 토성의 위성 "엔셀라두스"에 생명체가 존재할 가능성
토성의 위성 "엔셀라두스"에 생명체가 존재할 가능성
인은 생명에게 있어서 아주 중요한 구성 요소입니다. 인은 당과 결합해서 DNA의 뼈대를 만들고, 세포막, 뼈, 신진대사에도 중요하게 작용하죠. 그래서 지구 외 행성에서 인이 발견되면, 생명이 존
livelive.tistory.com
2022.10.02 - [지구・ 생명] - 인류를 멸종시킬 수 있는 4가지의 대재앙
인류를 멸종시킬 수 있는 4가지의 대재앙
인류를 멸종으로 이끌 수 있는 사건에는 무엇이 있을까요? 재난 영화를 많이 보신 분들이라면 몇 가지의 상황이 바로 떠오르실 텐데요. 저는 개인적으로 가장 먼저 소행성이 지구에 충돌하는 장
livelive.tistory.com
'과학・ETC' 카테고리의 다른 글
| 혁신적인 발견! 자기 자신을 치유하는 금속이 발견되다. (0) | 2023.07.25 |
|---|---|
| 남성의 성기가 점점 길어지고 있다..과연 좋은 일일까? (7) | 2023.02.26 |
| 전 세계에서 43명만 가지고 있는 황금피의 정체 (0) | 2022.09.07 |
| 인간의 DNA에 외계인의 메시지가 숨겨져 있을까? (0) | 2022.08.26 |
| 원자의 핵에서 새로운 입자 발견되었다! 교과서가 바뀔지도 모른다! (1) | 2022.08.23 |