지난 주 읽은 책 『AI Snake Oil』은 다소 내 기대에 미치지 못한 느낌이다. 이렇게 말하고 보니 심혈을 기울여 책을 썼을 저자들에게 미안하다. 하지만, 오랫동안 이 책에 관한 찬사의 글을 많이 읽고 독자들의 긍정적인 리뷰도 많이 읽었으며, 나름대로 고민하다가 구매한 뒤 몇일간 시간을 투자해 읽은 독자로서 그 정도 의사 표시는 할 수 있다고 생각한다.
내 기대에 다소 미치지 못했다고는 했지만, 세계적으로 AI 분야의 대가로 꼽히는 미국 프린스턴대학 컴퓨터공학자 두 명이 집필한 이 책은 본 블로그 독자들이라면 꼭 읽어볼 가치가 있다고 생각해서 소개하고자 한다. 특히 저자 중 한 명은 페이스북에서 콘텐츠 심사 관련 소프트웨어 개발 업무에 참여하기도 했다.
즉, 내 기대가 워낙 컸다고 해 두는 것이 합리적일 듯하다.
이 책은 AI라는 단어를 보거나 듣지 않고는 하루를 보내기 어렵다고 할 만큼 AI에 대한 기대와 우려가 난무하는 시대에 AI의 근본 작동 원리를 간략히 되짚어보고, 그 바탕에서 AI가 정말 일부 낙관론자들이 주장하는 것만큼 대단한 것인지, 일부 비관론자들이 지적하는 것만큼 엉터리인지, 일부에서 지적하는 것만큼 인류에 위협이 되는 것인지 등에 관해 친절하게 설명하는 내용을 담고 있다.
 |
| (20세기 초 미국에서 클라크 스탠리라는 사람이 원주민에게서 비법을 터득해서 만들었다면서 "뱀 기름"이라는 이름으로 연고를 만들어서 팔고 다녔다. 이 사진은 1905년 클라크 스탠리가 사용한 광고물 사진이다. 사진 출처: https://www.nlm.nih.gov/exhibition/ephemera/medshow.html) |
책 제목에 사용된 “Snake Oil”이란 오늘만큼 의약품에 관한 일반인들의 상식이 깊이 있게 공유되지 못하고 사전에 평가하는 제도도 정착되기 전인 20세기 초 미국에서 한때 판매된 연고제를 기적의 “뱀 기름”이라고 이름붙여 판매한 것에서 유래한 표현이다. 당시 이 제품을 제조해 판매한 사람은 미국 원주민에게서 놀라운 치료 효능을 지닌 “뱀 기름” 제조 비법을 전수받았다고 주장했으며, 박람회에도 출품하는 등 대대적으로 홍보했다.
하지만 이 제품의 성분을 분석해 보니 뱀하고는 관련이 없었으며, 미네랄 오일, 지방 화합물, 고추에서 추출한 캡사이신, 테레빈유 등으로 만든 것으로 밝혀졌다. 미국 당국은 이후 문제가 있다고 판단해 개발자에 대해 사기죄로 벌금형을 부과했다. 그 사건 이후 실체를 크게 부풀리거나 왜곡해서 광고함으로써 물건이나 서비스를 판매하는 행위를 빗대에 “뱀 기름”을 팔고 다닌다는 말을 하게 됐다.
제목에서 풍기듯, 이 책에서 저자들은 챗GPT 같은 일부 AI 제품의 잠재력은 인정하지만, 다른 제품과 관련해서 제공되는 각종 홍보물이나 주장이 실제로는 아직 검증되지 않았거나 아직 검증할 수 없는 내용도 많다고 지적한다. 이들은 이렇게 객관적이고 과학적으로 입증되지 않은 성능을 바탕으로 이미 많은 AI 도구들이 다양한 분야에 도입돼 실제로 사회에 해악을 끼치고 있다고 경고한다.
실례로, AI는 아직은 과거 데이터를 학습한 것을 바탕으로 작동하는 것이 대부분이어서 미래에 관해서 예측을 한다는 것은 논리적으로 성립하기 힘들며, 더구나 인간의 행동과 관련해서는 행위자 본인도 미래를 알 수 없을 정도로 불확실성이 큰데도 마치 AI가 인간의 미래 결정과 행동을 예측할 수 있다고 주장하는 기업들도 많다는 것이다.
더구나, AI 도구 개발 기업들이 보통 “뛰어난 정확성”이라며 몇 퍼센트라고 숫자를 내세우는 경우가 있으나, 그 표현이 진실로 의미하는 것은 명확하지 않거나 과학적으로 인정되는 방식으로 검증된 결과가 아닌 경우가 많다고 저자들은 지적한다. 즉, 이미 학습에 사용된 데이터를 대상으로 어떤 작업의 정확성을 아무리 측정한들, 그것이 미래 일이나 학습에 사용된 것과 다른 데이터에 관해 높은 정확성을 지닌다고 볼 수 없다는 것이다.
이들은 또, 일부 선구적이며 규모가 큰 AI 개발 업체들이 자신들이 이미 개발했다고 자랑하는 기술에 대한 위험성을 지적받을 때마다 마치 “규제”에 적극 동의하는 것처럼 말하지만, 여기에도 진정성이 없다고 비판한다. 즉, 이들 선구적 대기업은 대중들에게는 자신들이 개발한 AI 제품이 위험하면 앞으로 이 제품을 다른 기업들이 경쟁적으로 개발하지 못하도록 사전 심사를 엄격히 해야 한다고 제안하는데, 이 말은 자신들에게 경쟁이 될 기업을 미리 억제하려는 목적이 더 크다고 지적한다.
저자들은 또 요즈음 주변을 둘러 보면 무작정 새로운 제품이나 서비스를 홍보하면서 AI라는 단어를 붙이는데, 정확히 AI를 어떻게 얼마나 활용한 것인지 상세히 밝히지 않음으로써 좁게는 소비자를 현혹하며, 넓게는 AI에 대한 공포감을 키우기도 한다고 지적한다. 이렇게 AI에 관한 과대포장이 횡행하는 데는 언론의 책임도 크다고 저자들은 밝히고 있다.
언론이 제역할을 다하지 못하는 데는 언론사 경영진이나 종사자들의 자세를 탓할 수도 있겠으나, 저자들은 일부 언론사나 일부 언론사 종사자들의 문제를 지적하는 것이 아니라 대다수 언론사나 대다수 언론사 종사자들의 관행을 꼬집으면서, 그렇게 된 배경에 기성 언론사들의 수익성이 나빠진 것을 지적한다.
이런 상황이 지속되면서 언론사나 언론사 종사자들은 AI에 관해 정확한 지식을 습득하거나 업계 실상을 깊이있게 탐구하기 어려운 여건에 놓이게 된 것이다. 실례로 AI 관련 신제품 및 신기술 발표 보도자료를 일단 그대로 쓰고 보는 문제가 있으며, 그런 자료를 비판적으로 검증해서 논평할 전문가를 확보하거나 확보하려고 노력할 여유가 없다는 것이다. 그러다 보니 AI 관련 기사에는 종종 “휴머노이드 로봇” 상상도를 붙이곤 하는데, 내용은 사실 로봇과 전혀 관련이 없는 경우가 대부분이다.
그냥 그럴 수도 있다고 하는 사람도 있겠으나, 컴퓨터 공학도인 저자들은 이런 관행이 일반인들 사이에 AI에 관해 불필요하거나 과도한 공포심을 조장할 수 있으며 그로 인해 AI 혁신이 가져올 효과에 관해 오해가 깊어질 수 있다고 지적한다.
물론 내가 이 책을 내 기대에는 다소 못미쳤다고 이 글을 시작했지만, 아마 다시 한번 읽어보면 다른 느낌을 받을 수도 있겠다. 하지만, 이 책 저자들은 AISnakeOil.com라는 홈페이지를 통해 꾸준히 관련 정보를 공유하고 있어서 AI에 관한 진솔한 글들을 자주 접할 기회가 될 것 같다.
또한, 내가 기대가 컸던 것은 아마도 최근 짧은 기간에 관련 서적을 비교적 여러 권 몰아서 읽은 탓도 있을 것이다. 따라서, 다른 책을 많이 읽지 않은 사람이라면 이 책을 꼭 읽어볼 것을 권한다.
《책 정보》
Co-authors : Arvind Narayanan, Sayash Kapoor
Publisher : Princeton University Press (September 24, 2024)
Language : English
Hardcover : 360 pages
ISBN-10 : 069124913X
ISBN-13 : 978-0691249131
Item Weight : 1.4 pounds
Dimensions : 5.7 x 1.5 x 8.6 inches
