This Can't Go On .. 이대로는 안 된다

Holden Karnofsky

다음의 내용은 Cold Takes 에서 오디오 파일로 접할 수 있다. (또는 Stitcher, Spotify, 구글 팟캐스트 등에서 “Cold Takes Audio”로 검색해 보자)

이 글은 우리가 단지 매우 특별한 시대를 살고 있는 것이 아니라 매우 특별한 세기를 살고 있다는 것을 확인하는 것으로 시작한다. 이 연재 중 지난 글에서는 100년 후 혹은 10만 년 후에 결국 맞이하기 될지도 모를 기괴한 미래를 다뤘다.

요약

• 우리는 매년 세계 경제가 꾸준히 몇 퍼센트 씩 증가해 오는 것에 익숙하다. 이는 지난 많은 세대 동안 지속되어 왔다.

• 그러나 이는 매우 특이한 경우이다. 역사를 전반적으로 살펴보면 성장에 가속도가 붙어 왔다는 것을 알 수 있다. 역사상 최고점에 다다랐으며 성장 속도는 현 상태를 오랜 시간 현 상태를 유지할 수 있는 것보다 빠르다. (은하계에 이 성장 속도를 만 년 더 유지해 나갈만큼 원자가 충분하지 못하다)

• 세계는 현 속도로 계속해서 성장해 나갈 수 없다. 따라서 우리는 성장이 저하되거나 멈추는 스태그플레이션, 한계에 이르기 직전에 성장에 가속도가 더 붙게 되는 폭발, 그리고 특정 재앙이 경제를 무너뜨리는 붕괴와 같은 다른 가능성에도 대비할 필요가 있다.

우리가 살고 있는 시기는 특이하며 불안정하다. 기술적인 성숙으로 이어질 경제적, 과학적 폭발적 진보와 같은 별난 일이 발생한다고 해도 놀랄 일이 아니다. 실제로 이러한 폭발은 틀림없이 추세에 들어맞을 것이다.  

우리가 기억하는 한 오래 세계 경제는 매년 몇 퍼센트 씩 증가세를 보여왔다[1]. 해마다 차이가 있기는 했어도 성장은 전반적으로 안정적으로 진행되었다.[2] 나는 이를 평상시와 다름없는 세상 (Business As Usual)[3]이라고 부르겠다.

일상적인 상황에서는 세상은 끊임없이 변하며 그 변화를 느낄 수 있지만 그것에 따라가는 것이 버겁거나 불가능한 것은 아니다. 지속적으로 새로운 기회와 난관이 나타나지만 지금까지 해 왔던 방식을 대부분 고수하면서 변화에 적응하는 데 몇 년을 투자하고자 한다고 해도 보통 크게 달라질 것은 없다. 일상생활에 있어서는 2019년은 2018년과 별반 다르지 않았고 2010년과 비교해도 차이는 감지할 수 있으나 그리 대단하지 않았으며 1980년과 비교한다고 해도 차이는 크겠지만 감당하기 어려운 수준은 아니다.[4]

이 말에 고개가 끄덕여지고 그 변화에 익숙하며 미래 또한 이와 같을 것으로 기대한다면 당신은 평상시와 다름없는 사고방식을 지니고 있다. 과거와 미래를 아마 이런 식으로 이해하지 않을까.

그러나 나는 변화무쌍한 과거와 더욱 불확실한 미래를 그리는 다른 사고방식 속에 살고 있다. 이를  이대로는 안 돼 사고방식으로 부르겠다. 내 사고방식을 도표로 표현하면

어떤 도표가 맞는 것일까? 둘 다 똑같은 역사적 자료를 바탕으로 만들어졌다. 다른 점은 ‘평상시와 다름없는’ 도표는 1950년 이후의 자료로 만들어졌지만 이대로는 안 된다 도표는 기원전 5000년부터 자료를 바탕으로 구성되었다. “이대로는 안 돼”가 전체적인 이야기에 해당한다면 “평상시와 다름없는”은 그것이 아주 작은 일부에 불과하다.

매년 몇 퍼센트 정도 성장하는 것에 우리 모두는 익숙하다. 그러나 역사를 전체적으로 살펴보면 매년 몇 퍼센트씩 성장하는 것은 실제로 말도 안 된다. (이것은 두 번째 도표에서 파란색 선이 수직상승하고 있는 부분이다.) 

이 성장은 우리 모두가 기억하는 것보다 더 오래 지속되어 왔지만 전체적 맥락에서 보면 인류 문명 수천 년 역사 중 단지 몇 백 년에 지나지 않는 것으로 그리 길지 않다. 엄청난 가속도를 보이고 있으며 이 상태로는 오래 지속할 수 없다. (하단의 “이렇게는 오래 갈 수 없다”에서 부연설명 하겠다)

첫 장에서는 규칙성과 예상가능성을 논하고 둘째 장에서는 변동성과 극적으로 다른 미래의 모습들에 대해 이야기하겠다.

미래에 일어날 수 있는 경우의 수 중 하나는 스태그플레이션이다. 우리가 경제의 “최대치”에 이르러 성장이 근본적으로 멈추게 된다. 우리는 현재 가지고 있는 자원을 어떻게 나눌 것인가를 고민하게 될 것이고 규모를 키우는 역동적인 경제는 영원히 막을 내리게 될 것이다. 

또 다른 경우는 경제폭발로, 세계 경제가 매년, 매주, 혹은 매 시간마다 두 배로 커질 때까지 성장에 가속도가 붙는 경우이다. 디지털 인력, 혹은 향후 논의하겠지만 고급 AI와 같은 복사기 같은 기술들이 이와 같은 성장으로 몰아갈 수 있다. 이러한 일이 발생한다면 인류가 소화할 수 있는 것보다 훨씬 더 빨리 모든 것이 변화할 것이다. 

또한 전지구적 재앙이 인류문명을 굴복시키거나 인간성을 말살하는 붕괴를 생각해 볼 수 있다. 이 경우 우리는 절대 오늘날의 수준과 같은 성장에 도달할 수 없게 된다. 

아니면 더한 일이 일어날지도 모를 일이다. 

왜 이대로는 안 되는가?

편견을 극복하기에서 가져 온 다음 분석이 좋은 시작점이 되어줄 수 있겠다. 여기에는 내가 상황에 맞게 각색한 것을 공개한다. 

• 세계 경제가 현재 매년 2 퍼센트 성장하고 있다고 가정하자.[5] 이는 35년마다 경제 규모가 두 배가 된다는 것을 의미한다[6].

• 이 상태가 지속된다면 8200년 이후에는 경제 규모가 현재의 3*1070  배가 된다.

• 우리 은하계에 1070 미만의 원자가 있는데[7] 이는 우리가 8200년 이후의 삶은 상상이 불가능해 진다[8].

• 따라서 경제가 오늘날보다 3*1070배 커지고 1070개 (또는 그 이하)의 원자만을 사용할 수 있다면 원자 하나 당 오늘날과 같은 전 세계 경제 규모와 비슷한 크기의 경제를 다수 유지해야 할 것이다.

8200년이 먼 미래로 느껴질 수 있겠지만 이는 인류가 존재해 온 기간보다 훨씬 짧다. 실제로 이는 농경을 기반으로 한 인류문명이 존재해 온 기간보다도 짧다. 

현존하는 원자 하나당 오늘날의 문명 전체에 해당하는 크기의 문명을 여럿 지원할 기술을 개발하는 것을 상상하는 것이 가능할까? 당연히 가능할 것이다. 그러나 이를 위해서는 지금까지 인류 역사에 걸쳐 보아온 변화의 정도를 훨씬 넘어서는 근본적인 수준의 변화가 우리 삶과 사회에 필요할 것이다. 그리고 나는 이러한 수준의 변화가 앞으로 있을 수천 년 동안 일어날 것이라고 생각하지 않는다. 

아마도 새로운 과학적 통찰, 기술적 혁신과 자원의 “고갈’을 겪을 것이고 “매년 몇 퍼센트씩 부유해지는” 시대 또한 종말을 고하게 될 것이다. 결국 이 번영의 시대는 고작 수백 년 정도만 지속하게 되는 것이다. 

(이 글에서는 경제가 아닌 에너지에 관해 비슷한 분석을 제시하고 있다. 저자는 에너지에서의 한계는 떠 발리 올 것이라고 지적한다. 매년 에너지 소비가 2.3 퍼센트 증가하고 (1600년대 이후 미국의 역사적인 에너지 소비율보다 낮다) 이는 우리의 은하계의 행성 전체에서 향후 2500년간 생산될 에너지에 달하는 양을 고갈시킬 것으로 추정한다.[9] ) 

폭발과 붕괴

앞으로 일어날 가능성이 있는 상황 중의 하나는 스태그플레이션이다. 성장은 점차 둔화되고 결과적으로 경제성장이 멈추게 된다. 그러나 나는 이러한 상황으로 치닫게 될 가능성은 낮다고 본다. 

위의 도표에서는 성장 둔화가 보이지 않는다. 오히려 극적으로 가속도가 붙고 있는 것으로 보인다. 이와 같은 성장세를 그대로 적용한다면 우리는 어떠한 결과를 얻게 될까? 

오픈 필란트로피의 데이비드 루드만 (David Roodman)이 제시한 인간 궤적 모델링은 과거 경제 성장 패턴에 곡선을 적용하는 것으로 바로 이 질문에 대한 답을 구하고 있다.[10] 이 추정은  금세기의 무한한 성장을 의미한다. 무한한 성장은 수학적 추상화이나 이것의 함의는 “ 한계에 도달하기 전에 가능한 가장 빠른 성장을 경험하게 될 것” 이다. 

The Duplicator에서 이 가능성에 대한 폭넓은 논의를 요약해 두었다. 낙관적으로 보면 우리가 인간의 사고를 ‘복사’할 수 있는 기술을 가지고 있거나 디지털 인류 혹은 고급 인공지능과 같은 효과적으로 동일한 목적을 달성할 무엇인가 있다면 폭발적 성장은 가능하다는 것이다. 

폭발적 성장의 경우, 세계 경제가 매년 두 배로 커지는 100% 성장률을 달성할 수 있는데 이 경우 앞에서 설명한 대로 길어야 250년 안에 여러 측면에서 한계에 부딪히게 된다[11]. 심지어 우리는 세계 경제가 매달 2배로 커지거나 (이 경우 최장 20년 안에 한계에 이르게 된다[12])이보다 더 빠른 성장을 보게 될 수도 있다. 

이 과정은 매우 혼란스러울 것이다. 인간이 유의미하게 추적할 수 있는 정도 이상으로 생산물을 내놓는 AI의 주도 하에 걷잡을 수 없을 만큼 빠르게 성장이 이루어지고, 가능성의 한계에 빠르게 치닫게 되면서 어느 시점에서는 성장이 늦춰져야만 할 것이다. 

스태그플레이션이나 폭발적인 성장 외에 제 3의 가능성인 붕괴도 있다. 전지구적 재앙은 오늘날과 같은 수준의 성장으로 절대 회복하지 못할 만큼 인류 문명을 쇠퇴시킬 수 있다. 인간의 멸종은 이와 같은 붕괴의 극단적인 형태일 것이다. 이와 같은 미래는 도표에서 제시되지 않았지만 우리는 이 또한 가능하다는 것을 알고 있다. 

토비 오드가 극단 (Precipice)에서 주장하듯 소행성과 다른 “자연적” 위험은 이와 같은 상황을 야기하지 않을 것으로 보이나 심각하고 수량화 하기 어려울 것 같은 몇몇 위험들은 여전히 존재한다. 즉, 기후 변화, 핵전쟁 (특히 핵 겨울), 팬데믹 (특히 생물학에서의 발전이 매우 위험한 생물 무기개발도 이어지는 경우), 그리고 고급 인공지능에 의한 위험들이 바로 그것이다. 

정체, 폭발, 그리고 붕괴와 같은 이 세 가능성을 염두에 두고

• 우리는 역사를 통틀어 경제 성장이 가장 빠르게 이루어진 두 세기(20세기와 21세기)에 살고 있다.

• 아마도 이것이 적어도 인류 역사상 가장 빠른 성장을 이룬 80 세기 중의 하나가 될 것은 틀림없어 보인다[13].

• 만약 필요한 기술이 개발되어 폭발적인 성장을 이끌어 간다면 아마도 다른 세기와 비교가 되지 않을 정도로 성장이 빠르게 이루어진 세기가 될 것이다.

• 만에 하나 잘못되기라도 한다면 우리의 마지막 세기가 될 수도 있다.

여기서 보듯 이번 세기는 꽤 의미심장한 세기이며 가장 놀라운 세기가 될 가능성도 존재한다. 이것은 모두 인공지능에 관한 자세한 추론이 아닌, 기본적인 관찰을 기반으로 이루어진 것으로 인공지능에 대해서는 나중에 다루도록 하겠다. 

과학 기술 발전

우리가 경제적 성장에 관한 도표를 작성하는 것과 같은 방식으로 과학기술이 얼마나 빨리 발전하고 있는가를 보여줄 간단한 도표를 만드는 것은 어렵다. 그러나 그 도표를 만들 수 있다면 대체적으로 경제적 성장 도표와 비슷한 양상을 보일 것으로 생각한다. 

나는 아시모프 (Asimov)의 과학과 발견의 연대기 (Chronology of Science and Discovery)를 읽어 볼 것을 권한다. 책에서는 인류 역사상 가장 중요한 발명과 발견을 연대순으로 소개한다. 처음 몇 세기에서는 “돌도끼”, “불”, “종교” 그리고 “예술”이 등장하다가 마지막 장에서는 “핼리 혜성” 과 “따뜻한 초전도성”이 포함되어 있다. 

이 책의 흥미로운 사실은 책은 기원전 4백만 전부터 일어난 일들을 포함하고 있음에도654 쪽 중 553 쪽이 1500년 이후에 일어난 일들에 관한 것이라는 점이다. 이 책과 비슷한 종류의 책들 모두에서 이와 같은 경향을 보일 것으로 생각되며[14] 실제로 지난 500년 동안 이룬 과학 기술의 발전이 몇 백만 년 동안 일어난 것보다 훨씬 더 많다고 확신한다[15].

이전 글에서 나는 위 연대표에서 보듯, 역사에서 가장 의미 있는 사건들이 우리가 살고 있는 시대에 몰려 있는 것 같다고 주장했다. 이 주장은 수십억 년을 기준으로 한 것이다. 그러나 수천 년 단위로 확대해서 본대도 비슷한 경향을 확인할 수 있을 것이다. 가장 큰 과학 기술 발전은 현대에 상당히 밀집되어 있다. 이를 확인하기 위해 운송과 에너지에 초점을 맞춘 연대표를 보자 (여느 카테고리를 선택해도 비슷한 결과를 얻었을 것으로 생각한다).

따라서 경제 성장과 마찬가지로 과학 기술의 발전 또한 역사의 다른 시기와 비교해 매우 빠르다. 경제 성장에서 보듯, 아마도 언젠가는 첨단기술의 발전 또한 한계가 있을 것이다. 그리고 경제 성장과 같이 지금부터 과학기술 발전은

• 정체, 이미 많은 사람들이 우려하는 바와 같이 일어나고 있다.

• 폭발, 만약 과학 기술 개발을 주도할 “지능” (인류, 혹은 디지털 인류, 또는 고급 인공지능)의 수를 극적으로 증가시킬 어떤 기술이 개발된다면 가능하다[16].

• 붕괴, 일부 전지구적 재앙에 의한 

간과된 가능성

현재 평상시와 다름없는 세상으로 보는 마음가짐, 즉 우리가 앞으로 다가올 미래에도 기본적으로 안정적이고 일반적인 비율을 유지한다고 가정한다면 어떻게 보다 나은 세상을 만들 것인지 고민하며 살고 있는 사람들이 분명 있을 것으로 생각한다. 

그리고 어떤 이들은 이대로는 안 된다는 마음가짐 속에 정체, 폭발 혹은 붕괴 등의 영향을 걱정하며 과연 우리의 행동이 이러한 상황이 발생하는 것을 막을 수 있을 것인가 고민하고 있을 것이다. 

그러나 오늘날에는 거의 모든 뉴스와 분석이 평상시와 다름 없는 세상 마음가짐으로 이루어지므로 상황이 균형을 잃은 것처럼 보인다. 

내 마음가짐을 비유로 표현하자면 마치 세상이 활주로에 착륙하는 비행기에 타고 있는 사람들과 같이 느껴진다는 것이다.  

우리는 평소보다 빠른 속도로 달리고 있으며 이 속도를 오래 유지할 수 있을 만큼 활주로가 길지 않다… 게다가 우리는 가속을 하고 있다. 

세상이 어떻게 돌아가고 있는지에 대한 평을 읽을 때마다 사람들은 안전벨트를 매는 것이 삶의 일부인 이상 어떻게 하면 가능한 한 편안하게 맬 수 있을지 논의하거나,  가족과 함께 앉아 옆으로 빠르게 지나가는 하얀 선들을 바라보는 것이 인생에 있어 얼마나 멋진 순간인지 이야기 하고, 또는 윙윙거리는 소리로 인해 대화를 나누기가 어려운 것이 누구의 잘못인지 따지고 있다.

내가 이러한 상황에 처해 있고 비행기가 언제 이륙하게 될지 모른다면 바른 판단을 내릴 수 없다고 해도 적어도 다음과 같이 생각하기를 바란다. “ 상황이 좀 많이 이상하고 특이한데다 일시적일 것으로 보인다. 여기서 속도를 더 높이거나 멈추거나, 또는 뭔가 이상한 일이 일어날 것이다” 

이 글에 포함된 그래픽을 만들어 준 마리아 구티레스 로하 (María Gutiérrez Rojas )와 여기서 사용된 연대표의 기반이 된 초기 연대표를 제공한 루드비히 슈베르트 (Ludwig Schubert)에게 감사의 말을 전한다. 

——————————————————————————————————————

1] 이 말이 잘 이해가 되지 않는다면 내가 쓴 짧은 글 ‘경제 성장 설명서’를 참고하라

[2] 세계 경제 실제 성장률은 일반적으로 미세하게 마이너스에서 7 퍼센트 사이에 존재한다.

[3] (각주가 삭제됨)

[4] 2020년의 경우 세계적 팬데믹과 다른 요인들로 인해 과거 몇 년과 다른 양상을 보였으므로 나는 여기서 제외하겠다.

[5] 여기서 실제 GDP 성장을 참고했다 (물가상승 반영). 2퍼센트는 현재 세계 성장률보다 낮으므로 실제 성장률을 사용하는 것이 내 주장을 뒷받침하는 데 효과적일 것이다. 그러나 나는 2 퍼센트 성장이 과거에는 가난했으나 최근 급격한 성장을 보이고 있는 중국과 같은 개도국의 성장을 포함하고 있는 전체 세계 성장률 대비, 선진국에서 일어나는 성장률을 나타내는 데 보다 적확하다고 생각한다.

내 2퍼센트 성장률을 확인하기 위해 나는 미국 데이터에서 2000년에서 2020년 사이, 2010년에서 2020년 사이, 그리고 2015년에서 2020년 사이 연간 경제 성장률을 확인했다. (이 자료는 모두 7월을 기준으로 2020년까지 작성되었다). 이는 각각 2.5%, 2.2% 그리고 2.05% 였다.

[6] 35년간 매년 2%의 성장을 이루면 (1 + 2%)^35 = 2배 성장

[7] 우리 은하 질량에 대한 위키피디아의 가장 높은 추정치는 4.5*10^12태양 질량이며, 각각 약2*10^30 kg이며, 수소 원자 1.67*10^-27

개에 해당하는 것으로 추정된다. (4.5*10^12 * 2*10^30)/(1.67*10^-27) =~ 5.4*10^69. 

[8] 위키피디아: “2019년 3월 천문학자들은 은하계의 질량이 약 129,000 광년 반경 내에서 1조 5천억 태양 질량에 이른다고 보고했다” 나는 우리가 향후 8200년간 129,000 광년 이상을 이동할 수 없다고 가정한다. 왜냐하면 이를 위해서는 우리가 빛보다 빨리 이동할 수 있어야 하기 때문이다.

[9] 이 계산이 이번 게시물에 정확하게 맞아 들어가지 않는다. 핵심은 “기술과 상관없이 지속적인 2.3 % 에너지 성장률을 위해서는 1400년 동안 태양이 생산하는 총 에너지에 해당하는 양을 생산해야 한다” 는 것과 “우리 은하계는 약 1000 억 개의 별이 있으며 많은 에너지가 단지 공간 속으로 뿜어져 나오고 있으며 거기서 에너지를 얻어내야 한다. 10에 해당하는 각각의 인수를 얻으려면 100년이 걸린다는 것을 상기하자. 1조는 10의 11승이므로 1100년이 추가로 걸리게 된다.”1400+1100=2500, 이 수치가 내가 인용한 것이다. 이 추정치는 우리 은하의 별들이 평균적으로 태양이 뿜어내는 에너지와 비슷한 양을 내 놓는다는 가정하에 계산되었다. 그러나 실제로 이것이 사실인지는 알 수 없다.

[10] 인간 궤적 모델링이 과거 역사적 자료에 맞는 형태인지에 대한 논란이 지속되고 있다. 나는 여기서 이 논란이 어떻게 나의 결론을 바꾸었는지 논의하겠다.

[11] 250회 배가는 약 1.8*10^75의 성장 인자에 해당할 것이며 이는 우리 은하에 있는 원자 수의 10,000배가 넘는 수치이다.  

[12] 20년은 240개월이므로 세계 경제가 두 배로 성장한다면 이는 약 1.8*10^72의 성장 인자에 해당하는 것으로 우리 은하에 있는 원자 수의 100배가 넘는다.  

[13] 그것은 오늘날의 성장률이 향후 8200년 (82세기)이상 지속될 수 없다는 위의 관찰 때문이다. 따라서 오늘날과 같은 성장을 유지하며 앞으로 82세기 이상을 지속하는 유일한 방법은 “이대로는 안 돼” 도표에서 보이는 지그재그 점선과 같이 마이너스 성장을 하는 세기가 많은 경우에 한한다.

[14] 이 데이터 세트는 참고 자료에서 어느 정도 다루어지는가에 따라 역사적 인물에 중요성을 부여한다. 데이터 세트는 기원전 800년에 시작하는데1500년 이후에 예전보다 10배가 넘는 “과학”분야의 인물들이 등장한다. 나는 이 데이터 세트를 이용한 해당 도서를 추천하지 않는데 책이 데이터에서 정당하지 못한 결론들을 많이 이끌어 내고 있다고 생각하기 때문이다. 여기서 나는 단지 대부분의 참고 문헌이 불균형적으로 1500년 이후에 일어난 일에 대해 다루어 있다는 주장을 뒷받침하는 데 도서를 이용하였다.

[15] 솔직히 말해 이와 같은 참고 문헌은 가까운 과거에 유리한 편향을 보일 수 있다. 그럼에도 불구하고 이 관점에 대해 문헌들이 제시하는 큰 그림은 정확하다고 생각한다. 이 주장을 절대적으로 지지하는 것은 이 게시물의 범위를 벗어나는 것이겠지만 내가 지적하고자 하는 증거는 (a) 내가 여기서 사용하는 참고 문헌 - 여러분이 직접 읽거나 훑어보기만 해도 비슷한 인상을 받을 것으로 생각하고 (b) 경제성장이 대체로 비슷한 패턴을 보인다는 사실이다 ( 비록 폭발은 최근에야 시작되기는 했어도 경제 성장이 과학적 진보를 뒤따른다는 사실은 직관적으로 이해할 수 있다고 생각한다.)

[16] 이 관점에 대해The Duplicator에 인용된 글들은 혁신에 있어 폭발을, 역동적이고 폭발적인 경제 성장의 일환으로 구체적으로 묘사하고 있다.