인공지능(AI)이 많은 새로운 서비스를 가능하게 하고 경제에도 큰 변화를 가져오리라는 전망이 많다. 이전에는 생각하기도 어려웠던 기능을 AI가 수행하게 될 것이며, 그런 기능을 중심으로 새로운 산업이나 업종이 생겨나리라는 전망도 나온다.
이런 가운데 최근 케임브리지대학 연구원들이 '의향 경제'라는 개념을 주장해 눈길을 끌었다.
즉, AI 보조(비서) 프로그램이 널리 사용되면서 AI는 사용자 개인에 관한 정보를 확보하고, 그 개인이 무언가 결정할 일이 있을 때 사전에 결정을 미리 예상하거나 심지어 결정에 영향을 미치는 힘을 갖게 된다. 이런 AI 보조 프로그램 기업은 급기야 어떤 사람의 결정 방향에 관한 '신호'를 제품화해, 그런 결정에 영향을 받을 기업에 판매한다는 것이다.
즉, 어떤 영화를 볼지, 어떤 후보에 투표할 지 등 의사 결정을 미리 예측하거나 심지어 영향을 미칠 역량을 가진 AI 프로그램 기업들이 그 사용자에 관한 '의향'을 상품화해 거래하는 시장이 형성되는데, 이와 관련된 경제를 '의향 경제(intention economy)'라고 부른 것이다.
 |
| (사진 출처: www.cam.ac.uk) |
케임브리지대학은 이 연구자들의 보고서를 설명하는 기사를 게재했는데, 본 블로그에서는 기사 내용 중 주요 부분을 발췌·번역해 소개하고, 맨 아래에 보고서 원문을 볼 수 있는 링크와 기사 링크를 함께 공유한다.
- 생성형 AI의 폭발적 성장과 챗봇에 대한 친숙함 증가로 “설득 기술”의 새로운 지평이 열렸다
- 다양한 '의인화된' AI 에이전트는 비공식적으로 이루어지는 음성 대화 과정에서 수집된 방대한 양의 내밀한 심리 및 행동 데이터에 접근하게 될 것이다
- AI 프로그램들은 이런 정보를 바탕으로 인간이 편안함을 느끼는 방식으로 기분을 맞춰주는 기묘한 능력을 활용해 사회적 조작이 가능한 수준의 신뢰와 이해를 구축하게 될 것이다
- “이미 AI 프로그램이 인간의 계획과 목적을 도출, 추론, 수집, 기록, 이해, 예측하고 궁극적으로 조작하고 상품화하기 위해 개발되고 있다”
- “사용자의 관심도를 이용하는 소셜 미디어 플랫폼이 성장하면서 온라인 경제가 등장해, 확산한 것처럼 사용자의 동기를 이용하는 '의향 경제'는 사용자의 의향을 조종하고, 판매하려는 사람들에게는 골드러시가 될 것이다”
- “어떤 의향은 일시적이겠지만, 지속되는 의향을 분류하고 타게팅할 수 있다면 이는 광고주에게는 수익성을 높이는 데 필요해질 것이다"
- 예를 들어, 대규모 언어 모델(LLM)을 사용하면 저렴한 비용으로 사용자의 어법, 정치, 어휘, 연령, 성별, 온라인 기록, 심지어 아첨과 칭찬에 대한 선호도까지 타게팅할 수 있는데, 이런 점을 활용해 AI가 "피곤하신 것 같은데, 일전에 추천했던 영화를 예매해 드릴까요?"라고 제안하면 통하는 상황이 될 수 있다는 것이다
- “이 기업들은 상업적 목적으로 우리의 의향을 예측하고 우리가 의식하기도 전에 우리의 결정 의향을 미리 누군가에게 판매하게 된다"
▶ 보고서 원문: 여기를 클릭
