책 리뷰: 리카이푸와 천치우판의 『AI 2041』

이번에도 자의반 타의반(정확히는 자의10 타의90인 독서모임)으로 리카이푸와 천치우판의 『AI 2041』을 읽었다.

AI를 기술 설명서처럼 다루지 않고, 10개의 단편소설로 전달한다는 점에서 책의 구성은 부담스럽지 않았다. 단순히 ‘AI가 발전하면 이런 일이 벌어진다’는 식의 예측이 아니라, 실제로 우리가 살아갈 수 있는 2041년으로 상정한 미래의 장면을 SF단편소설의 형태로 보여주고, 그 뒤에 기술적 배경을 설명해 주는 방식을 취했다. 그래서 이 책은 미래 기술을 이해하는 데 도움을 주는 동시에 그 기술이 인간의 삶을 어떻게 바꿀지 생각할 거리를 준다는 점에서 좋았다. (미묘하게 재밌는 점: AI의 발전이 매우 빠르기 때문에, 저자들이 글을 쓰는 시점에서의 ‘미래’에 우리의 ‘현재’가 포함되어 있다. 따라서 저자들의 미래에 대한 상상을 어느 정도 평가할 수 있다. 특히 4장은 코로나 상황을 extrapolate해서 쓴 부분인데… 틀린듯?)

(잠깐 Digression: 그리고 이 6장까지 읽고, 혹시 생성형 AI가 요약해주는 게 잘 맞으면 그냥 가져다 쓰려고 했는데, 진짜 엉망진창이다. 어디서 제목만 가져와서 마음껏 상상의 나래를 펼친 블로그 글을 출처로 다시 생성을 하니 정말 말도 안되는 스토리를 요약이랍시고 내준다. ChatGPT 소개된 초반에 “ChatGPT가 아무렇게나 생성해낸 무의미한 블로그글이 온라인을 장악하고, 이를 다시 학습하면 퀄리티는 더 떨어지는 거 아닌가?”를 염려하던 사람들이 많았는데, 적어도 온라인에 돌아다니는 이 책 요약은 생성형 AI가 오염된 출처에 피해를 제대로 받은 거 같아 보인다.)

1장 황금 코끼리

소설 내용: 인도 뭄바이의 한 가족이 딥러닝 기반 보험 프로그램 ‘가네샤’에 가입한다. 프로그램은 가족 구성원의 식습관이나 소비행위 등을 실시간 모니터링해 프리미엄을 낮추고 삶을 개선해주지만, 10대 소녀 나야나는 사생활이 침해된다고 반발한다. 심지어 프로그램은 나야나가 마음에 들어하는 남자아이가 낮은 카스트 계급을 가지고 있고 가난한 지역에 살기에 위험요소로 판단해 연락을 제재하려고 한다.

기술 분석: 딥러닝 기반 서비스가 사용자의 행동과 습관을 분석해 맞춤형 서비스를 제공하는 모습은 삶을 편리하게 만들 여지가 많지만, 그만큼 개인 정보가 촘촘하게 수집되며, 자료에 기반한 편향성이 강화될 수 있는 사실도 함께 드러난다. 편리함과 데이터주권의 침해를 통한 감시가 한 세트처럼 따라온다는 점을 잘 밝힘.

2장 가면 뒤의 신

소설 내용: 나이지리아의 동영상 제작자인 주인공이 딥페이크 기술로 정치인의 연설 영상을 조작하는 일을 맡는다. 그러나 그녀는 자신이 만든 가짜 영상이 국가적 파국을 몰고 올 것을 깨닫고, 자신의 해킹 및 AI 기술을 역이용해 범죄 조직의 실체를 폭로하기로 결심한다.

기술 분석: 컴퓨터 비전, 생성적 적대 신경망(GAN)을 통한 딥페이크 기술의 발전 원리를 설명함. 고도화된 정보 조작의 위협을 방어하기 위한 생체 인식 및 AI 보안 기술(블록체인 등)의 필요성을 강조함.

내 생각: 근데 잘 모르겠는게, 영상 찍고 “뽀샵”한것도 원본이라고 블록체인에 기록되지 않을 것 같은데… 하여튼 생성한 영상/음성은 법적 규제를 받아야 할 것 같음.

3장 쌍둥이 참새

소설 요약: 서울의 고아원에서 자라는 쌍둥이 형제 금빛 참새와 은빛 참새에게 맞춤형 AI 동반자(vPal)가 배정된다. 경쟁심이 강하고 활달한 금빛 참새는 슈퍼히어로 형태의 AI ‘아토만’을 만들어내고, 아토만은 게임처럼 점수를 매기고 경쟁심을 자극하는 방식으로 학습 능력을 끌어올린다. 자폐 스펙트럼에 있고 내성적이지만 예술적 재능이 뛰어난 은빛 참새는 정형화되지 않은 형태의 AI ‘솔라리스’를 만들어내고, 솔라리스는 은참새의 독특한 인지 방식과 감정 상태에 섬세하게 맞춰 소통하며, 그가 세상과 연결되고 창의력을 발휘하도록 돕는다. 이후 두 아이가 각기 다른 가치관을 가진 가정에 입양되어 성장하는 과정을 통해 맞춤형 AI 교육이 개인의 성격과 환경에 따라 어떤 명암을 만들어내는지 그려낸다.

기술 분석: 자연어 처리(NLP)와 GPT 같은 거대 언어 모델이 인간의 언어와 감정을 모방하여 ‘개인 맞춤형 튜터’로 활약할 가능성을 보여준다. AI가 교육의 불평등을 해소하고 잠재력을 끌어낼 수 있는 강력한 도구이지만, 진정한 의미의 ‘공감’이나 ‘의식’을 가진 것은 아님에 대한 생각할 거리를 남겨둠. 개인화된 AI 보조장치가 아이들을 가르치는 미래는 이전에 다룬 ‘권력과 진보’ 책에서는 기술발전이 교사의 노동수요를 줄이지 않고 생산성을 향상시킬 수 있는 방향처럼 해석했다.

내 생각: 이 장을 읽으면서는 ‘개인화된 AI의 방향이 적절한지 교사는 판단할 수 있는가’에 대한 의문이 남았다. 표준화된 교육은 어떻게 할지? 표준화된 교육이 필요치 않다면, 사회화 교육은? 소설에서 선생님은 쌍둥이들의 개인화 AI가 생성한 가상공간에 형제들의 데이터를 무작위로 샘플링해서 서로의 가상공간의 레이어에 추가했다. 이걸 교사가 한다고? 이런 교사를 양성하는 건 누가 어떤 방식으로 한다는 건지? 그리고 그냥 형제가 교감하고 잘 지내게 하기 위해서 직접 대면하는 기회를 만들어주는 게 아니라 AI에 레이어를 추가해서까지 한다고?

4장 접촉 없는 사랑

소설 요약: 팬데믹이 지속된 미래 세계에서 상하이에 사는 주인공은 천난은 코로나19 팬데믹의 트라우마로 인해 타인과의 대면을 극도로 두려워하며 고립된 삶을 살아간다. AI의 발전으로 무인배달 로봇이 물건을 보내주고, 사람과의 관계는, 특히 브라질의 남자친구 가르시아와의 관계는 매우 현실적인 가상공간에서만 이뤄진다. 천난을 집 밖으로 이끌어내기 위해 상하이에 몰래 입국한 가르시아는 자신이 위독한 감염병에 걸린 것처럼 상황을 꾸미고, 천난은 연인을 만나야 한다는 절박함에 두려움을 깨고 세상 밖으로 나온다.

기술 분석: 바이러스 변이에 대응하는 알파폴드(단백질 구조 예측) 등 바이오 의료 AI의 혁신을 소개하고, 감염병 시대 이후 일상생활을 돕는 로봇 공학과 비대면 자동화 기술의 발전도 소개함.

내 생각: 그런데 아마 코로나 시기에 초안을 써서 그런지 모르겠지만, 세상이 얼마나 빠르게 일상으로 돌아왔는지를 잘 생각하지 못한 것 같다. 우리도 코로나로 가족과 지인이 돌아가신 사례를 경험했지만, 그 트라우마로 스스로를 격리하고 살지는 않는다. 디지털화된 의료기록이 생체에 없어서 병원체 취급 받는 상황은 기술중심주의 사회로 나아갈 때 의도하지 않은 불평등을 불러올 수 있다는 점도 생각할 거리였음.

5장 유령이 된 아이돌 스타

단편소설 요약: 죽은 남자 아이돌 ‘히로시’의 열성 팬인 ‘아이코’는 고도로 발달한 확장현실(XR, eXtended Reality) 기기를 통해 가상 공간에서 완벽하게 부활한 히로시의 아바타와 교감한다. 가상 현실 속에서 죽은 히로시가 남긴 미스터리한 단서들을 추적하던 아이코는 현실과 가상의 경계가 모호해지는 혼란 속에서 히로시 죽음의 진실을 파헤친다.

기술 분석: 가상현실(VR), 증강현실(AR), 혼합현실(MR) 등 XR 기술이 선사할 압도적인 몰입형 경험을 현재 기술 발전을 바탕으로 설명함. 확장현실 기술에 내재된 윤리적·사회적 문제—죽은 자의 데이터를 기반으로 만든 불멸의 ‘디지털 휴먼’이 산 사람의 심리와 윤리에 미치는 위험성, 데이터의 저장이 잊혀질 권리를 보장하지 못할 수 있고, 데이터 유출의 피해가 지금보다 훨씬 더 커질 수 있음 등—를 생각할 거리로 남김.

6장 거룩한 드라이버

단편소설 요약: 스리랑카 콜롬보에 사는 중학생 카말은 방에 앉아 게임기 같은 시스템으로 화면 속 차량을 조작하며 돈을 번다. 그러나 그는 곧 자신이 하는 일이 단순한 게임이 아니라, 실제 도로의 완전 자율주행차가 시스템 오류나 재해·테러상황같은 곤경에 처했을 때 개입하는 ‘원격 시뮬레이터 운전자’라는 사실을 깨닫고, 자신의 조작 한 번이 실제 인간의 생사를 결정짓는다는 윤리적 무게에 직면한다.

기술 분석: 라이다(LiDAR), V2X 센서 등 자율주행차의 핵심 기술의 발전을 소개함. 완벽한 자율주행은 마차에서 자동차로 전환될 때 사람들의 삶이 영구적으로 바뀐 것처럼, 완벽한 자율주행은 삶의 여러 측면을 영구적으로 바꿀 것임. 완전자율주행은 기술적인 문제보다 윤리적·법적 딜레마와 비기술적 문제(ex. 자율주행차가 사람의 생사가 달려있는 선택을 해서 불가피하지만 치명적인 피해를 입혔다면, 그 선택은 윤리적인가, 그 선택의 법적 책임은 누가 묻게 될 것인가? 등)가 제약이 될 것임.

내 생각: 앞으로는 자율주행차들 간의 interdependent 행위를 이해하고 분석하는 일이 더 필요할 것 같다. 내가 시험문제로 자주 내는 것 중 하나는, “자율주행차들끼리 외나무다리 맞은편에서 오고 있으면, 누가 양보할 것인가?”인데, 대부분의 답은 효용함수와 후생함수의 모양에 따라 달라진다. 이런 논의가 앞으로는 더 필요할 것 같다.

7장 양자 대학살

단편소설 요약: 극단적인 기후변화로 인해 가족을 잃은 극단주의 과학자 마크 루소가 현존하는 모든 보안 체계를 단숨에 무력화할 수 있는 강력한 양자 컴퓨터를 손에 넣고, 이를 이용해 비트코인을 비롯한 전 세계 금융 시스템을 붕괴시키고 자율 살상 무기(살상용 드론 군단)를 조종해 인류를 위협하려 한다. 정보기관과 해커들은 이를 막기 위해 사투를 벌인다.

기술 분석: 기존 컴퓨터를 초월하는 양자 컴퓨팅의 원리와 그것이 현대 암호화 시스템에 미칠 파괴적 영향을 경고함. 특히, 인간의 개입 없이 적을 식별하고 사살하는 치명적 자율 무기 체계(LAWS)에 대한 강력한 국제적 통제 필요성을 강조함.

내 생각: 별로 없음…

8장 구원자 이야기

단편소설 요약: AI와 자동화로 대다수 직업이 사라진 근미래에, 정부는 기본소득을 지급하게 되었지만, 무수한 실직자들로 인해 생기는 사회적 비용이 매우 크기에, 재취업을 교육하고 알선하는 기업이 중요해진다. 어떤 신생 재취업 기업이 비정상적으로 높은 취업률을 보이는 걸 확인해보니, 이건 실직자들에게 인위적으로 만들어낸 가상 공간에서 무의미한 일을 하는 것으로 보상을 제공하는 프로그램이었던 것이다.

기술 분석: AI에 의한 대규모 실업 사태와 보편적 기본소득(UBI)의 한계를 분석함. 기계가 대체할 수 없는 인간의 ‘창의력’, ‘공감’과 ‘수작업’을 중심으로 새로운 직업 생태계와 가치를 창출해야 한다고 제안함.

내 생각: AI의 발전은 노동시장에서 양가적 감정을 준다. 금융회사, 스타트업, 게임회사, 법조계에 속한 40대 사람들 얘기를 들어보면, 이제는 경력이 5년 이하인 신입들은 생성형 AI의 ‘딸깍’보다 더 나은 수준의 역량을 보일 수 없기 때문에, 채용을 잘 안한다고 한다. 전통적 취업시장에는 자리가 급격하게 줄어드는 게 실시간으로 보인다. 그렇다 하더라도, AI발전이 사람들의 일자리를 모두 빼앗아간다고 생각하기는 일러 보인다. 엑셀이 등장하고도 회계사의 수요는 증가한 이유는, 엑셀이 (원래라면 비싸서 엄두도 못했을텐데, 가격이 싸져서 체계화된 회계관리를 도입하려고 하는) 많은 잠재수요를 수면 위로 끌어올렸기 때문이라고 해석하기도 한다. 자동차의 등장이 마부의 일자리를 없앴지만, 결국 사람들이 더 멀리 이동할 수 있는 계기를 마련해 숙박업과 서비스업이 새로 창출되었다는 창조적 파괴(constructive destruction)도 어느정도는 기대할 수 있지 않을까 싶은데… 사람들이 노동을 할 필요가 점점 없어지는 장기적인 추세는 거스르기 어려울 것 같다… 이 장에서는 ‘얼마나 AI가 인간의 노동을 대신할 수 있는가’보다 ‘AI가 바꾼 세상에서 인간은 어떻게 살아야 하는가’를 묻는 게 더 중요한 질문이라는 인상을 받는다.

9장 행복의 섬

단편소설 요약: 돈으로 모든 것을 살 수 있는 억만장자가 ‘완벽한 행복’을 보장한다는 중동의 프라이빗 인공 섬을 방문한다. 이 섬의 AI는 방문객의 사물인터넷(IoT), 웨어러블 생체 데이터, 일거수일투족을 수집·분석해 개인 맞춤형 행복을 치밀하게 설계한다. 하지만 극도로 통제되고 수치화된 행복 속에서, 주인공은 오히려 프라이버시 침해와 진정한 자유 의지의 상실에 대해 의문을 품게 된다.

기술 분석: 생체 신호를 통해 인간의 감정을 읽고 반응하는 ‘감성 컴퓨팅(affective computing)’의 현주소를 진단함. AI의 목표 최적화 알고리즘이 인간의 복잡한 내면인 ‘행복’마저 통제하려 할 때 발생하는 철학적, 윤리적 위험성에 대한 문제를 제기함. 대규모 개인정보를 저장하는 것에 대한 이해관계 충돌도 고민해볼 거리라고 다시 상기함.

내 생각: 매슬로우의 욕구 단계로 생각해 봤을 때나, 행복에 대한 실험 조사 등에서 찾은 관측을 고려했을 때나, 행복을 기술적으로 올리는 건 매우 어렵다. 이 부분은 기술이 지금보다 더 많이 발달한다 하더라도 달성하기 어려울 일일 거다.

10장 풍요를 꿈꾸다

단편소설 요약: 고도화된 AI, 로봇, 무한한 재생 에너지(태양광 등) 덕분에 물질적 결핍이 완전히 사라진 포스트 스카시티(Post-Scarcity, 탈희소성) 시대에. 사람들은 더 이상 돈을 벌기 위해 일하지 않으며, 사회적 평판과 기여도에 기반한 가상 화폐 ‘물라(Moola)’를 추구한다. 호주 브리즈번의 실버타운에서 명성을 쌓으려는 한 젊은이가 고집불통 노인을 돌보게 되고, 사건을 겪으며 물질적 부를 넘어선 진정한 연대와 삶의 가치를 회복하는 희망적인 미래를 그린다.

기술 분석: 모든 에너지가 저렴해지고 생산이 자동화되는 ‘풍요의 시대’에서의 경제 모델을 제시함. 인류가 자본주의적 화폐와 물질에 대한 집착을 벗어나, 자아실현과 공동체적 가치를 중심으로 진화하게 될 것이라는 긍정적 비전으로 마무리.

내 생각: 기존의 경제학(‘희소한’ 자원의 효율적 분배)의 패러다임이 바뀌는 시점이 올 거라는 건 어렴풋이 알고 있는데, 생각해볼 거리를 잘 줬음.

마무리

AI 2041은 AI를 단순한 기술 트렌드가 아니라 인간의 삶을 다시 설계하는 힘으로 바라보게 만드는 책이었다. 각 장은 독립적인 이야기처럼 보이지만, 결국 모두 같은 질문으로 이어진다. AI가 발달한 미래에 인간다움은 어디에 남을 것인가, 그리고 그 미래를 누구를 위해 만들어야 하는가 하는 질문이다.

인공지능 기술의 발전이 곧 모두의 진보를 뜻하지는 않으며, 변화의 속도만큼 사회적 장치도 함께 준비되어야 한다는 생각이 많이 들었다. ‘내 일은 어떻게 될 것인가’보다 ‘이제 어떻게 살아야 하는가’를 더 생각하게 만드는 기회를 줬다는 점에서 좋은 책이다.

그나저나, 책을 완독한다는 건 (그리고 그걸 기록용으로 요약한다는 건) 시간이 많이 쓰이는 일이다. 논문읽기가 많이 밀렸다…