(책소개) AI 종말론 계보 총정리...작지만 묵직한 족보 같은 책

지디넷코리아에서 AI 분야를 포함한 첨단 기술 관련 기사를 전문적으로 보도하다가, 최근 국가AI연구거점 연구원으로 이직한 조이환 연구원이 집필한 작고 얇지만 묵직한 책 『AI와 종말론적 상상들』을 추천하고자 한다.

조 연구원은 내가 늦은 나이에 AI라는 전문 분야를 취재해 외국의 전문가 독자들에게 전달해야 하는 쉽지 않은 일을 맡아 고생할 때 많은 도움을 주기도 했다.

이 책은 크기도 작고 길이도 짧아서(90페이지) 자세히 소개하면 오히려 스포일러가 될 것 같아 내용은 생략하고, 저자의 소개 글을 공유한다:

이 책은 AI 기술이 인류의 미래를 바꿀 것이라는 기대와 우려가 교차하면서 AI 담론은 종종 기술의 영역을 넘어 종말론적 상상으로 이어진다. 이러한 상상들은 단순한 예측이 아니라 현실에 영향을 미치는 강력한 '기술 신화'로 작동한다. 이 책은 Al 기술 신화를 구성하는 여러 종말론들의 지적 계보와 핵심 논리, 한계를 면밀히 분석한다. 이를 바탕으로 기술 담론의 이면에 숨겨진 인간의 욕망과 불안을 드러내고 Al 이후에도 남겨질 인간의 존재 조건에 대한 근본적인 질문을 던진다. 

이 소개 글에서도 잠깐 언급됐듯이, 이 책은 AI와 관련한 여러 종말론의 지적 계보와 핵심 논리, 그리고 각각의 한계를 아주 짧게 정리하고 있다. 마치 길고 긴 집안 내력을 얘기하는 대신, 아주 간결하게 정리된 족보 책을 보여주는 것에 비유할 수 있을 정도로 간결하다.

(책소개) AI 전쟁 2.0: 이재명 정부 AI 정책의 배경과 방향을 가늠할 수 있다

거시경제와 경제정책, 금융시장을 중심으로 30여 년간 기사를 써 왔지만, 작년부터는 새 회사에서 한국의 인공지능(AI) 정책을 깊이 있게 취재해 전 세계 전문가들에게 보도하는 일을 맡게 됐다. 닥치는 대로 읽고, 사람들을 만나고, 아는 만큼 쓰자는 마음으로 시작했다. 입사 후 얼마 지나지 않아 과학기술정보통신부 차관을 인터뷰했고, 하정우 당시 네이버 Future AI Center 센터장(현 대통령실 AI미래기획수석비서관)을 인터뷰하는 행운도 있었다.

국내외에서 출간된 AI 관련 서적과 주요 국제기구의 보고서를 읽으며 흐름을 이해해 갔지만, 읽으면 읽을수록 새로운 책을 고르는 일은 점점 더 조심스러워졌다. 모 장관이 며칠 만에 ‘AI’라는 단어가 들어간 책을 뚝딱 써냈다는 말도 들리고, 실제로 아무 말이나 모아놓은 듯한 책도 있어 신뢰할 만한 책을 고르는 일이 더 어려워졌기 때문이다.

그런 와중에 최근 강원도민일보가 ‘AI가 지역 문제 해결에 어떤 도움을 줄 수 있는가’를 주제로 대담을 기획하며, AI를 밀착 취재하는 기자로 다른 사람이 소개한 나를 초청해 주었다. 대담 상대를 찾고 있던 담당 기자에게 국내 AI 전문가로 손꼽히는 한상기 테크프론티어 대표를 추천했고, 그렇게 대담이 성사됐다.

대담을 마친 뒤, 담당 기자가 한상기 대표와 하정우 전 센터장이 공동 집필한 책을 여러 권 구매해 내게도 건네주었다. 이미 한 번 인터뷰했고, 현재 한국의 AI 정책을 총괄하는 하정우 전 센터장이 저술한 책이기에 기대를 품고 읽기 시작했다. 그런데 페이지를 넘길수록 내용이 알차고, 한국이 AI 정책을 어떻게 설계하고 나아가게 될지 통찰을 제공하는 부분이 많아 많은 도움이 됐다.

(보고서) 급변하는 시장 변화에 비쳐 본 현대차그룹의 미래 전략

한국 뿐 아니라 세계 자동차 산업에서 꾸준히 성장세를 유지하고 있는 현대자동차그룹에 관한 애정하는 iM증권 이상수 연구원의 보고서가 눈길을 끈다. 『관세를 넘어 새로운 OEM으로 (외형 확대와 미래 전략의 조화)』라는 제목의 이 보고서 주요 내용을 소개하고 보고서 전문을 볼 수 있는 링크를 본 블로그 글 맨 아래 공유한다.

✅ 2025년 자동차 업계 전반

2025년에는 세계적으로 전기차 수요가 둔화되었고, 트럼프 2기 행정부가 IRA 보조금을 조기 종료하면서 완성차 업체들은 2030년 전기차 전환 계획을 수정해야 했다. 미국은 25%의 자동차 관세를 발표했으나, 이후 협상으로 15% 수준으로 인하되었다. 관세 부담은 줄었지만, 완성차 업체들의 대응 전략이 시장의 주요 관심사로 떠올랐다.

(보고서) 한국 경제성장 둔화 숙명 아니다, 좀비기업 청산 실패가 한몫: 한국은행 보고서

좀비기업은 스스로 생존할 능력이 없는 기업을 말한다. 이들 좀비기업을 판별하고 제때 시장에서 퇴출시키는 것은 쉬운 일이 아니지만, 경제가 성장 잠재력을 최대한 발휘하는 데 꼭 필요한 절차다. 물론 퇴출되는 기업의 창업주나 최고경영진 뿐 아니라 투자자와 종업원들은 비극적인 결과에 고통을 겪을 것이다. 그런 비극적인 결과는 때에 따라서는 국민 정서에 호소하거나 정치인에게 압력을 넣거나 관련 채권금융기관에 위협을 가하는 등의 수단이 되기도 한다.

따라서 좀비기업은 이런저런 계기로 제때 정리되지 못하는 경우가 많다. 하지만, 이들 좀비기업의 지속적인 생존은 단순히 일부 비효율적인 기업의 문제에 그치지 않고 경제 전반의 활력을 갉아먹는 구조적 병폐이자, 장기 성장의 발목을 잡는 보이지 않는 족쇄로 계속 작용한다. 생산성과 수익성이 낮은 기업이 시장에서 자연스럽게 퇴출되지 않으면, 자본과 인력 같은 희소한 자원이 더 생산적인 부문으로 이동하지 못하기 때문이다. 

그 결과 자원의 효율적 배분이 왜곡되고, 산업 전체의 평균 생산성이 하락한다. 신생기업과 혁신기업의 진입은 가로막히며, 경제의 창의적 파괴 과정이 멈춰버린다. 금융기관 또한 부실기업의 연명에 자금을 묶어두면 당장의 손실은 피할 수 있을 지 모르지만, 궁극적으로는 새로운 성장 산업에 대한 투자 여력을 잃게 되고, 경제 전반의 경쟁력은 점차 약화된다. 고용 유지에도 단기적으로는 도움이 되는 듯하지만, 장기적으로는 성장 잠재력을 훼손하고 경기 회복의 속도를 늦추는 ‘좀비경제화’의 함정에 빠지게 되는 것이다.

이와 같은 맥락에서 한국은행이 최근 발표한 연구 보고서는 한국 경제의 성장 둔화를 바라보는 시각에 중요한 경종을 울린다. 흔히 기업의 투자 부진은 금융 여건의 제약, 즉 자금 조달의 어려움 탓으로 돌려지지만, 이번 분석은 그 이면에 더 근본적인 문제가 있었음을 실증을 통해 밝혀냈다. 

(보고서) AI로 인한 문제에 대한 금융회사 대처방안: 日銀 보고서

2025년 6월, 일본은행 금융연구소는 금융회사의 인공지능(AI) 활용과 관련된 법적 리스크 및 AI 거버넌스 체계 구축의 기본 방향을 정리한 보고서를 발표했다. 이 보고서는 금융기관이 AI를 개발하거나 도입하는 과정에서 발생할 수 있는 법적 책임과 내부 통제의 필요성을 체계적으로 분석했다는 점에서 주목받고 있다.

보고서에 따르면, 일본 금융당국은 원칙적으로 AI 개발 계약이 존재할 경우, 금융회사는 해당 계약을 근거로 개발자에게 손해배상 책임을 물을 수 있다고 판단하고 있다. 또한 AI가 자율적으로 판단을 내리는 ‘자율형 AI’의 경우, 그 판단의 타당성에 대한 논란을 방지하기 위해 금융회사가 고객에게 AI의 리스크를 충분히 설명하고, AI의 판단을 수용한다는 사전 합의를 마련할 필요가 있다고 지적했다.

아울러 금융회사는 회사법상 내부통제시스템 구축 의무와 마찬가지로, AI 거버넌스 체계를 확립할 법적 의무가 있다는 해석도 제시되었다. 이는 금융회사가 AI 기술을 활용함에 있어 단순한 기술적 문제를 넘어, 법적·윤리적 책임을 포괄적으로 고려해야 함을 의미한다.

(책소개) "초인공지능(ASI) 시대가 오면 인류 멸종은 가능성이 아니라 필연이다"

인공지능(AI)에 관한 기사를 조금이라도 더 제대로 아는 사람들이 읽어도 이상하지 않게 쓰기 위해 책과 문서 등을 열심히 읽고 있다. 언제부터인가 AI 관련 책은 주로 그 뛰어난 능력과 그로 인해 인류가 누릴 혜택, 그리고 그런 상황을 만들기 위해 정부와 업계가 기울일 노력을 소개하는 내용으로 넘쳐난다. 

반면, AI라는 기술이 지닌 근본적인 문제점과 잠재적인 위험성에 관한 경고를 담은 책은 ChatGPT가 선풍을 일으키면서 처음에는 조금씩 쓰였으나, 날이 갈 수록 관심은 떨어지는 듯하다. 그 주장이 막연하다거나 과장됐다는 반대측 주장에 덧붙여 앞으로 잘 관리만 하면 AI 기술로부터 혜택을 누리면서 그 "부작용"을 해결하면 된다는 논리가 힘을 얻었기 때문이다.

그런 가운데 AI 기술이 궁극적으로 인류 멸종을 포함한 막대한 위험을 초래할 것이라는 경고를 담은 책(『If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All』,  Eliezer Yudkowsky/Nate Soares 공저, Little, Brown and Company, 2025.09.16)이 발간된다는 소식을 들었다. 평소 책을 하나 사려면 꽤 오랜 시간 전문가들의 반응과 세계 전체 판매 동향 등을 고려한 뒤 결정하는 편인데, 이번에는 아마존에서 발간되기도 전에 사전주문 만으로 베스트셀러에 오른 책이 있어서 덜컥 사전주문에 참여해 읽고 본 블로그 독자들에게도 추천하게 됐다.