| 멈추지 않는 존재 / 천세진 |
| 2023년 08월 01일(화) 19:38 |
|
박수를 보낼만한 일이라고 생각하겠지만 따져보면 어이없는 상황이다. 생성형 인공지능의 위험성을 일반대중은 정확히 알지 못한다. 기술 개발이 인류의 삶에 미칠 파급력과 후폭풍이 어떻게 나타날지를 가장 잘 아는 이들은 바로 개발자들이다. 그들은 개발 초기부터 위험성을 인지했을 것이다. 그렇다면 개발을 멈추는 것이 최선이었지만 그들은 멈추지 않았고 개발 후에야 걱정을 하고 잠시 멈추자고 경고를 했다.
인류 역사를 바꿔놓은 대부분의 기술혁명이 그랬다. 기술을 만들어놓고 비극적 단점들이 드러나면 위험을 만든 당사자들이 인류의 운명을 가장 걱정하는 사람들처럼 등장해 우려를 쏟아놓았다. 이번에도 정확히 반복되었다. 생성형 인공지능 개발자들은 1930년대 핵 과학자들이 핵무기 개발을 완료하기 전부터 그 위험성을 경고한 과거의 사실을 언급하며 “재앙이 발생한 후 대처하는 것보다 재앙이 발생하기 전에 위험을 해결하고자 노력하는 것”이라고 말했다.
어쩌면 그렇게 그때나 지금이나 똑같은 모습일까. 위험이 인지되었다면 개발 완료를 목전에 두었더라도 폐기하는 것이 마땅한데 인간에게는 그 일이 불가능하다. 개발자들은 언제나 똑같이 말한다. 단지 기술을 개발했을 뿐이라고, 기술을 어떻게 사용하느냐는 정치인들과 일반 대중의 몫이라고. 그때도 틀렸고, 지금도 틀렸다. 기술개발자들과 과학자들이 위험을 인지하고서도 똑같은 오류를 반복했던 것처럼 정치인들과 대중도 똑같은 오류를 반복했고, 앞으로도 그럴 것이다.
어째서 기술혁명 분야에서는 위험을 사전에 인지했더라도 멈춤이 없는 것일까? 기술혁명을 꿈꾸는 이들은 기술적 문제와 도덕적 문제를 따로 놓고 생각한다. 기술 개발이 가져올 부정적 결과물이 심각한 도덕적 문제를 야기할 수 있다는 사실을 그들은 지나치게 작게 평가하거나, 두 문제는 별개의 일이라고 말한다. 기술적 문제와 도덕적 문제를 함께 고민한 후에 기술을 개발하는 것이 사회적 준칙으로 존재했더라면 기술혁명은 없었을지도 모르지만, 그런 일은 생기지 않았다.
AI가 인간의 삶에 상상 이상으로 깊숙이 개입하고, 개입 영역을 넓혀가고, 지분을 확보해가는 모습을 보면서 이런 생각이 들기 시작했다. 인간은 도대체 인간의 일을 대체하고 인간 이상의 능력을 갖도록 AI를 개발하여 최종적으로 무엇을 하려는 것일까? 인간이란 존재는 더욱 잉여가 될 테고, 각자가 갖고 있는 시간 또한 생산자와 창조자로서의 역할과 더욱 거리가 멀어질 텐데 어떤 존재와 시간 향유자가 되려는 것일까?
아직까지도 명확한 답을 만나지 못했다. 일부 사회학자들이 노동을 AI에게 맡겨두고 인간은 예술을 즐기며 살면 된다는 답을 내놓기는 했지만, 노동은 노동이기만 한 것이 아니고, 노동을 맡겨두고 즐기라는 예술의 영역도 AI가 점령해가고 있다. 소설과 시를 쓰고, 음악을 작곡하고, 드라마 시나리오를 쓰고 있다. 그럼 이제 인간에게 남은 게 무엇일까?
AI는 인간의 역할은 대체할 수 있어도 나무와 풀, 들짐승과 날짐승, 물짐승은 온전히 대체할 수 없다. 엄청난 돈과 기술과 시간을 투자하면 나무와 풀과 들짐승, 날짐승, 물짐승도 대체할 수 있다고 주장하겠지만 설령 그것이 가능하다고 해도 무슨 의미가 있겠는가? 정작 인간은 모두 사라지고 만다면?
인류의 운명을 결정하는 권한이 기업들에게 넘어간 지 오래다. 기업은 이익을 위해 질주하는 생물이다. 구조적으로 멈출 수 없다. 자연 법칙은 이전의 것을 폐기하는 직선적 질주가 아니라 순환과 반복에 있다. 정교하면서도 일정한 원형의 궤적을 가진 것들에 의해 세계는 움직여 왔다. 그 세계가 지금 직선으로 질주하는 짐승에 의해 파괴되고 있다.
영원히 이어지는 길은 존재하지 않는다. 멈추지 않고 미친 듯이 달려간 끝에는 반드시 종말이 있다. 빠르게 달려가면 종말을 빨리 만날 뿐이다.