인공지능(AI)에 관한 기사를 조금이라도 더 제대로 아는 사람들이 읽어도 이상하지 않게 쓰기 위해 책과 문서 등을 열심히 읽고 있다. 언제부터인가 AI 관련 책은 주로 그 뛰어난 능력과 그로 인해 인류가 누릴 혜택, 그리고 그런 상황을 만들기 위해 정부와 업계가 기울일 노력을 소개하는 내용으로 넘쳐난다.
반면, AI라는 기술이 지닌 근본적인 문제점과 잠재적인 위험성에 관한 경고를 담은 책은 ChatGPT가 선풍을 일으키면서 처음에는 조금씩 쓰였으나, 날이 갈 수록 관심은 떨어지는 듯하다. 그 주장이 막연하다거나 과장됐다는 반대측 주장에 덧붙여 앞으로 잘 관리만 하면 AI 기술로부터 혜택을 누리면서 그 "부작용"을 해결하면 된다는 논리가 힘을 얻었기 때문이다.
그런 가운데 AI 기술이 궁극적으로 인류 멸종을 포함한 막대한 위험을 초래할 것이라는 경고를 담은 책(『If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All』, Eliezer Yudkowsky/Nate Soares 공저, Little, Brown and Company, 2025.09.16)이 발간된다는 소식을 들었다. 평소 책을 하나 사려면 꽤 오랜 시간 전문가들의 반응과 세계 전체 판매 동향 등을 고려한 뒤 결정하는 편인데, 이번에는 아마존에서 발간되기도 전에 사전주문 만으로 베스트셀러에 오른 책이 있어서 덜컥 사전주문에 참여해 읽고 본 블로그 독자들에게도 추천하게 됐다.
