오누르 바키네르(Onur Bakiner) 시애틀대학교 정치학과 교수 겸 기술윤리이니셔티브 디렉터가 집필하고 케임브리지대학교 출판부가 출판한 『Governing AI: A Primer』라는 책을 소개한다.
한국은 1990년대 중반 경제협력개발기구(OECD)에 가입하고 자본시장을 OECD 회원국 수준으로 개방하며 국내 제도도 개편하기로 했으나, 직후 외환위기를 겪으면서 그런 노력은 국제통화기금(IMF) 주도의 구제금융을 받는 조건으로 맺은 협약에 따라 타율적으로 이루어지게 됐다.
이후 한국 자본시장은 표면적으로는 OECD 회원국 수준의 제도를 갖추게 되었으나, 주식시장이나 채권시장, 그리고 외환시장 등 자본시장에서는 꾸준히 한국 재벌 체제의 "지배구조"가 갖는 문제점이 지적되기도 했고, 한국이라는 국가에서 그런 지배구조를 완전히 버릴 수 있는가에 관한 논의도 이어졌다.
이때 "지배구조"란 governance라는 영어 단어를 한글로 옮겨 표현한 것으로, 그 자체가 얼른 이해하기 쉽게 받아들여졌다. 그런데 2022년 말 ChatGPT 돌풍 이후 인공지능(AI) 혁신에도 적절한 governance 체제가 필요하다는 식으로 이 단어가 다시 등장했다.
이 말을 한국 기업들에 적용했을 때처럼 "지배구조"라고 부르기는 적절치 않았고, 마침 합당한 한글이나 한자어 용어가 없다고 생각한 업계에서는 일단 governance를 "거버넌스"라고 부르고 있다. 중국에서는 아마도 이를 "治理(zhì lǐ)"라고 부르는 것 같다. 이 단어는 "국가를 운영하거나, 환경 문제를 해결하거나, 또는 어떤 시스템을 관리·운영하는 것"에 대해 이야기할 때도 사용되는 표현이다.
이렇게 다소 장황하게 설명해도 AI의 "거버넌스" 개념은 우리에게는 얼른 와닿지 않는다. 그래도 AI를 어떻게 "govern"할 것인지에 관한 논의는 이 시각에도 계속되고 있다. 바키네르 교수는 자신이 쓴 책 『Governing AI: A Primer』에서 "거버넌스(governance)"라는 용어를 "다양한 행위자와 다층적 구조로 이루어졌으며 네트워크화된 틀을 통해 사회를 조율하고 그 방향을 이끌어가는 것"이라고 정의한 『The SAGE Handbook of Governance』의 정의를 사용하고 있다.
저자는 "AI를 govern한다는 것은 AI를 올바르게 다루는 일이다"라면서 "이 책은 AI와 관련된 잠재적 위험과 실제 발생한 피해를 체계적으로 정리하고, 세계 각국에서 제안된 AI 문제 해결 방안을 소개하며, 그러한 방안들이 어떤 효과를 거두는지를 평가한다"라고 책을 소개한다.
그는 "기존의 AI 거버넌스를 다시 생각할 것을 촉구한다"라면서 "기술적 해결책과 기업의 자율규제, 그리고 무엇보다 법적 규제는 AI의 개발과 활용 과정에서 발생하는 일부 잠재적 위험과 실제 피해를 완화하거나 심지어 제거할 수 있"겠지만, AI와 사회가 장기적으로 건강한 관계를 유지하려면 일반 시민들이 충분한 정보를 바탕으로 의사결정에 참여할 수 있는 권한과 역량을 갖춰야 한다고 강조한다.
모두 200페이지 남짓 되는 작은 책인데도 가격이 비싸고(7만원에 육박) 내용도 교과서처럼 많은 새로운 정보와 참고문헌 인용이 포함돼 있어서 빨리 읽히지는 않지만, 지금까지의 "AI 거버넌스" 논의가 어떤 업적을 이루었고 어떤 문제를 담고 있는지 이 시점에서 점검해보고 앞으로 "제대로 된 AI 거버넌스" 모색을 위해 필요한 부분을 잘 정리한 책이다.
1장은 인공지능, 데이터, 알고리즘, 머신러닝, 신경망, 딥러닝, 대규모 언어모델, 생성형 AI, 기호주의 AI 등 용어를 설명하는 내용인데, 사전적 설명이라기보다는 앞으로 이 책에서 저자가 논의를 전개하는 데 사용할 용어들을 정리하고 넘어가는 부분이다.
2장은 "AI 윤리"라는 말이 얼핏 보기에는 간단하게 들리고 많이 사용되지만 왜 간단치 않고 쉽지 않은 문제인지 설명한다. AI 윤리라고 하면서 거론되는 개념들 가운데는 윤리적, 책임 있는, 안전한, 신뢰할 수 있는, 투명한, 설명 가능한, 정확한, 공정한, 책임감 있는, 지속 가능한, 견고한, 접근 가능한, 포용적인 등 다양한 개념들이 있는데, 과연 이들 개념이 모두 무엇을 의미하는지 다시 생각해볼 필요가 있다.
3장에서는 AI가 제기하는 잠재적 리스크와 실제 와닿는 피해를 다루며, 4장에서는 이러한 리스크와 피해를 해결하기 위한 기술적 대응 방안을 논한다. 5장은 AI 거버넌스 모델로서의 업계 자율규제 형식을 논의하며, 6장은 AI 리스크와 피해를 줄이기 위한 구속력 있는 법적 대응책을 논한다.
마지막 7장에서 저자는 AI 거버넌스에 관한 개념적 및 실증적 연구를 벗어나 AI와 함께 더 나은 인류의 미래를 추구하려면 어떻게 해야 할지를 논한다.
책을 읽을 분들을 위해 결론은 여기서 노출하지 않기로 하겠다. 모쪼록 AI와 함께 우리의 미래를 어떻게 받아들여야 하는지, 더 늦기 전에 우리 스스로가 논의에 참여하려면 어떻게 해야 할지 궁금한 사람들은 이 책을 읽어볼 것을 권한다.
《책 정보》
- 제목: Governing AI
- 저자: Onur Bakiner
- 출판사: Cambridge University Press
- 출판일: February 19, 2026
- 언어: English
- 책 길이: 200 pages
- ISBN-10: 100973833X
- ISBN-13: 978-1009738330
