(보고서) 미국 정부 규칙 초안 작업에 AI를 사용해 본 결과 "미흡"

미국 내에서 생성형 AI를 정부 업무에 활용하는 방안에 관한 논의가 뜨겁다. 이런 가운데 미국기업연구소(AEI)는 생성형 AI를 미국 교통부 규칙 초안 작업에 활용할 수 있는지를 알아보는 연구를 진행했다. 그 결과 『AI가 작성한 규칙(AI-Generated Regulations)』이라는 짧은 보고서를 발표했다.

본 블로그에서는 보고서 요약 부분을 번역해 소개한다. 보고서 전문은 블로그 아래에 공유한 링크를 통해 구해 볼 수 있다.

(참고) 미국 AI 정책 간략 정리 및 NIST의 최근 지침 상세 정리

인공지능 거버넌스 체계를 둘러싼 논의가 몇년 간 지속되다가 유럽연합(EU)이 지난해 중반 리스크 단계별로 엄격하고 상세한 규제 방안을 포함한 'AI법'을 전격적으로 채택하면서 전 세계적으로 하나의 이정표를 기록하게 됐다.

이후 대한민국이 지난해 말 인공지능공지능 거버넌스 체계를 둘러싼 논의가 몇년 간 지속되다가 유럽연합(EU)이 지난해 중반 리스크 단계별로 엄격하고 상세한 규제 방안을 포함한 'AI법'을 전격적으로 채택하면서 전 세계적으로 하나의 이정표를 기록하게 됐다.

이후 대한민국 국회가 지난해 말 『인공지능 발전과 신뢰 기반 조성 등에 관한 기본법』(AI기본법)을 전격적으로 통과시킨 데 이어 올해 초에는 대통령 탄핵 사태에도 불구하고 이 법이 공포될 예정이어서 세계 주요국(사법권역) 가운데 두 번째로 별도 AI 거버넌스 법을 갖춘 나라가 됐다.

하지만, 미국 등 많은 나라는 여전히 별도 법 채택보다는 기존 관련법을 개정하거나 행정명령이나 가이드라인, 규정 및 규칙 등으로 AI 관련 정책을 규율하는 방식을 선호하고 있다. 이와 관련해 정보통기획평가원(IITP)에서 미국의 AI 규제 정책 체계를 소개하고, 그 가운데 AI 위험 관리 체계 마련에 주도적인 역할을 하는 국립표준기술원(이하 NIST)의 최근 발표를 정리한 보고서를 발간했다.

특히 이 보고서에는 미국 연방 상무부 산하 기관으로써 과학․표준․기술 등의 진보와 미국의 혁신과 산업경쟁력의 증진을 목표로 여러 기능을 수행하고 있는 NIST가 2023년 11월 조 바이든 대통령이 발표한 ‘AI 행정명령’의 후속 조치로 발표한 4가지 지침을 정리해 소개하고 있다.

(보고서) 생성형 AI 의 밸류체인 분석 및 금융 기회

인공지능(AI)에 관한 자료 가운데는 AI의 기술적 측면과 혁신 동향 등 다분히 기술적인 차원에서부터 AI가 인류에 가져다 줄 위험요인과 그에 사전에 대비하기 위한 논의까지 너무도 넓은 범위를 왔다갔다 해서 논의 주제를 따라다니기도 버겁다.

그 가운데 AI 진흥과 규제 등 법과 제도적 차원의 논의에 대해서는 많이 거론되고 있고, AI 기술 및 산업 측면의 가능성과 한계에 대해서도 많은 자료를 볼 수 있다. 그런데, 금융산업 시각에서 AI 산업과 그 발전 동향, 특히 생성형 AI 산업을 어떻게 바라봐야 할지에 관한 흥미로운 자료가 있어서 블로그 독자들에게 소개하고자 한다.

하나금융연구소가 발간한 『새로운 디지털 혁명의 시작, 생성형 AI 의 밸류체인 분석 및 금융 기회 모색』이라는 이 보고서는 PPT 형식이면서도 60쪽에 가까울 정도로 이루어져 있으며, PPT 형식이어서 몇백 쪽에 달하는 책을 보는 것보다 이런 자료에 친숙한 독자라면 이해하기가 쉬울 수도 있다.

(보고서) AI가 당신이 볼 영화를 미리 알고 광고주에 판매한다 - '의향 경제' 개념 등장

인공지능(AI)이 많은 새로운 서비스를 가능하게 하고 경제에도 큰 변화를 가져오리라는 전망이 많다. 이전에는 생각하기도 어려웠던 기능을 AI가 수행하게 될 것이며, 그런 기능을 중심으로 새로운 산업이나 업종이 생겨나리라는 전망도 나온다.

이런 가운데 최근 케임브리지대학 연구원들이 '의향 경제'라는 개념을 주장해 눈길을 끌었다. 

즉, AI 보조(비서) 프로그램이 널리 사용되면서 AI는 사용자 개인에 관한 정보를 확보하고, 그 개인이 무언가 결정할 일이 있을 때 사전에 결정을 미리 예상하거나 심지어 결정에 영향을 미치는 힘을 갖게 된다. 이런 AI 보조 프로그램 기업은 급기야 어떤 사람의 결정 방향에 관한 '신호'를 제품화해, 그런 결정에 영향을 받을 기업에 판매한다는 것이다.

 

즉, 어떤 영화를 볼지, 어떤 후보에 투표할 지 등 의사 결정을 미리 예측하거나 심지어 영향을 미칠 역량을 가진 AI 프로그램 기업들이 그 사용자에 관한 '의향'을 상품화해 거래하는 시장이 형성되는데, 이와 관련된 경제를 '의향 경제(intention economy)'라고 부른 것이다.

(참고) 글로벌 AI 가치사슬 총정리, 한국의 나아갈 길 - NIA 보고서

AI의 발전은 단순히 기술 혁신에 그치지 않고, 전 세계 경제와 산업 구조의 근본적인 변화를 이끌고 있다. 글로벌 시장조사기관 Statista의 “Insights Compass 2023” 보고서에 따르면, AI의 글로벌 시장 규모는 낙관적 시나리오 기준으로 2030년 약 15.72조 달러(2경 2,569조 원)에 이를 것으로 전망된다. 

AI 시장은 보수적 시나리오에서도 2023년 1.11조 달러에서 2030년 12.14조 달러로 약 11배 성장할 것으로 예상된다. 이는 AI가 산업의 생산성을 높이고, 기존에 없던 새로운 비즈니스 모델을 창출하며, 경제 구조를 근본적으로 변화시키는 데 기여하고 있기 때문이다. AI가 국가의 미래 경쟁력을 결정짓는 핵심 요소로 부상하고 있음을 명확히 보여준다.

(참고) 한국지능정보원이 발간한 2025년 12대 디지털 트렌드 보고서 - AI 주도 확연

한국지능정보원(NIA)이 발간한 「2025년 12대 디지털 트렌드」보고서를 소개한다. NIA는 경제, 산업, 사회 분야의 주요 이슈 및 전망과 국내·외 주요 기관에서 발표한 디지털 분야 전망 보고서를 분석하고 각계 전문가의 의견을 거쳐 12대 트렌드를 도출했다고 설명했다.

따라서, 주요 기관이나 기업이 발표한 2025년 디지털 생태계 관련 전망 보고서를 개별적으로 읽어보기 힘들거나 오히려 정리된 자료를 선호하는 사람이라면 이 보고서를 잘 읽어보면 큰 도움이 될 것이라고 생각돼 소개한다.

이 블로그에서는 보고서 내용 중 요점이 될 부분을 소개하고, 블로그 맨 아래에 보고서 전문을 구할 수 있는 링크를 공유한다.

2025년 AI 풍향계: FT 편집장의 4문4답

영국 일간지 파이낸셜타임즈가 "2025년 AI 관련 4대 전망(Four AI predictions for 2025)"이라는 짤막한 논평 기사를 게재했다. 내용이 길지 않아 전문을 번역해 공유한다.

2024년 인공지능 분야에서는 ChatGPT가 처음 소개됐을 때 불러일으켰던 정도의 '깜짝 놀랄 만한' 새로운 사건은 없었지만, 기반 기술의 빠른 발달로 인해 여전히 활기를 띄었다. 

AI의 미래와 관련해 2025년 제기될 4대 의문에 대한 필자(리처드 워터스 샌프란시스코 주재 미국 서부 편집장)의 생각은 다음과 같다.

(斷想) AI 부문에서 앞서나가던 대한민국, 치이고 밀려 다시 '패스트 팔로워'를 외치다

늦은 나이에 전문 분야에 관해서 속보보다는 상세히 보도하는 것을 특징으로 하는 매체에 입사해서 준비도 없이 인공지능(AI) 분야를 담당하게 된 지 이제 겨우 두 달 남짓 지났다. 입사가 확정되고 이런저런 책도 보고 자료도 읽었지만, 막상 입사해서 일을 하면서 결국 고수들을 가능한 한 많이 만나서 고견을 듣는 것이 제일 빨리 배우는 길이라고 생각했다.

운이 좋아서 입사하자마자 강도현 과학기술정보통신부 2차관과 단독 인터뷰를 하게 됐고, 이어서 오병일 진보네트워크 대표, 타이완 공정경쟁 당국 부책임자, 하정우 네이버 AI 이노베이션 센터장 등 쟁쟁한 전문가들과 단독 인터뷰를 하면서 조금씩 이쪽 업계 상황을 배우는 엄청난 기회를 얻고 있다.

그런데, 내가 일하는 매체는 업계 동향이 아니라 AI 제도와 규제 보도에 확실하게 초점을 맞추고 있는 데다가, 독자들이 전 세계에서 활동하는 법조ㆍ규제ㆍ정책 담당자들이어서 인터뷰를 통해 들었던 내용을 모두 전달하는 데 한계가 있었다. 따라서, 시간이 나면 언젠가는 기사에 담지 못했거나 "개인적인 느낌" 수준의 이야기를 블로그에 써서 정리해 보리라는 생각을 갖게 됐다.

이렇게 생각은 머릿속에 오랫동안 맴돌았지만, 내 글의 방향을 어떻게 정하고 어떤 이야기를 할지 정하는 것은 쉬운 일이 아니라는 점을 지금, 이 순간까지 깨달으면서 괜히 글을 쓰겠노라고 생각했다는 후회도 하게 됐다. 하지만, 기왕 고수들의 아까운 시간을 빼앗으면서 인터뷰를 핑계로 이야기를 들었으니 어떻게든 정리해야겠다는 생각은 변함이 없다.

(보고서) 생성형AI 활용에 분주한 세계 톱 자동차 업체들: 어디까지 가고 있나

일론 머스크의 테슬라가 활짝 열어젖힌 전기자동차 및 자율주행 자동차 시대가 주는 의미는 많지만, 그 중 우리의 사고에 미친 영향으로는 자동차가 기계장치를 다루는 산업이 아니라 소프트웨어가 주축이 되고 거기에 나머지 기계장치를 덧댄 산업이라는 사고의 변화라고 하겠다. 

르노나 포드 등 전통의 자동차 제조사들은 애써 전기차 및 자율주행차 붐에 자신들이 더 잘 대처할 수 있다는 자신감을 보이기도 했으나, 아직까지 테슬라가 주도하고 중국 기업들이 경쟁에 가세한 세계 무대에서 전통의 자동차 제조사들이 주도권을 되찾았다고 하기는 일러 보인다.

이런 가운데 챗GPT 열풍 속에 AI 붐이 연이어 불면서 자동차 산업에서 생성형 AI 기술을 활용한 소프트웨어 중심의 자동차 산업 발전은 가속화하는 양상이다. 이런 추세가 지속된다면 미래 모빌리티 산업 및 시장 변화는 지금까지 겪은 것보다 더욱더 파격적일 가능성도 있다.

마침 최근 산업연구원(KIET)이 정기간행물인 『미래전략산업 브리프』 제37호에서 "자동차산업에서 생성형 AI 활용 및 소프트웨어화 가속"이라는 제목으로 이와 관련한 최근 동향을 잘 정리해주었기에 본 블로그에 요지를 소개한다. 보고서 전문은 맨 아래 링크를 통해 볼 수 있다.

(보고서) 미국과 중국이 빠르게 앞서나가는 AI 경쟁, 한국이 낄 자리는?

인공지능(AI) 분야에서의 경쟁력이 미래 국가 경쟁력을 좌우할 태세다. 현재까지는 미국과 중국이 압도적으로 앞서가는 분위기다. 아무래도 미국은 세계 최대 규모와 세계 최고 수준의 혁신 능력을 지닌 IT 기업들이 즐비한 가운데 막대한 투자 자본이 집중되고 효율적인 자본시장이 형성돼 있어서 의심의 여지 없이 AI 경쟁력 분야에서도 월등히 앞서가고 있다.

미국과의 패권 경쟁 양상에 접어든 중국은 미국보다 월등히 큰 인구와 미국보다 월등히 집중적인 지원을 정부가 할 수 있는 경제 구조를 바탕으로 미국의 각종 규제에 맞서면서 생존을 위해 전력을 기울인 결과 현재로서는 미국을 제외하고는 웬만한 나라를 앞서는 AI 분야 경쟁력을 보유하고 있는 것으로 보인다.

한국은 어떤가? 전 국민이 IT 부문에서는 남에게 뒤질 것 없는 어떤 자질을 보유하고 있는 것처럼 스스로 말하고는 있지만 사실상 반도체 빼고는 세계 선두권에 들어가는지, 선두권에 오래 남아 있을 수 있는지 의문이 끊임없이 제기된다. 일단 시장 규모가 절대적으로 작고 전문 인력을 키우는 것도, 국내에 머물도록 환경을 제공하는 것도 기대하기 어렵다. 

이런 가운데 한국수출입은행 해외경제연구소가 보고서를 통해 현재 세계 각국의 AI 경쟁력 강화 노력을 소개하고 국가별 강점과 약점, 그리고 한국이 살아갈 길을 제시했다. 완곡하게 지적하고는 있느나, 한국의 경우 가지고 있는 강점도 제대로 못 살리는 여건이 개선되기는커녕 악화하고 있는 것은 아닌지 걱정스럽다. 본 블로그에서는 한국의 AI 경쟁력 부분과 시사점 부분을 소개하고 보고서 전문을 볼 수 있는 링크는 맨 아래 공유한다.

(보고서) 세계 AI 투자 2015년 대비 4.3배 성장, 미국이 압도적 주도

인공지능(AI) 시스템에 관한 얘기는 사실 수십년 전에 등장했으나, 당시만 해도 전반적인 수준이 낮았으며 AI에 관한 기대도 빠르게 식어갔다. 하지만, 최근 컴퓨터의 처리 능력, 막대한 에너지 공급, 반도체 집적도, 클라우드 서비스 확산, 스마트폰 생태계의 확산, 기타 전자산업의 발달 등이 어우러지면서 이제 AI는 '산업혁명'에 버금가는 기술로 받아들여진다.

이에, 세계 주요국은 AI 기술 주도권 확보와 경쟁력 강화를 위해 공공·민간 부문 할 것 없이 대규모 투자를 이어가고 있다. 지난해 전 세계 정부와 민간 부문 AI 투자는 총 1,419억 달러로 집계돼 2015년 대비 4.3배 성장을 나타냈다. 지난 2015년부터 세계 정부는 꾸준히 AI 투자를 확대하며  투자 규모가 연평균 8%씩 성장했다.

세계 주요 언론이 하도 AI와 관련한 기사를 쏟아내는 바람에 사실 차분하게 상황을 정리한 자료가 더 귀해진 분위기다. 이런 가운데 한국지능정보사회진흥원에서 『글로벌 정부·민간 분야 AI 투자 동향 분석』이라는 꼼꼼한 보고서를 발간했기에 본 블로그에 소개한다. 보고서는 내용이 방대해 여기서는 요약 부분만 공유하고 맨 아래 보고서 링크를 소개한다.

(참고자료) 최근 글로벌 거대 IT 기업들의 생성형 AI 투자 및 개발 현황

챗GPT 출시로 생성형 인공지능(AI)의 잠재력이 큰 충격을 준 가운데 구글과 아마존 등 기술 혁신을 이끌고 있는 거대 기업들 사이에 주도권 경쟁을 가속화하고 있다. 전통 기술 기업들도 여기에 가세하고 한국 기업들도 이런 추세에 뒤떨어지지 않기 위해 투자를 확대하고 있다. 이와 관련해 산업연구원(KIET)가 생성형 AI 분야에서의 거대 기업들과 한국 기업들의 최근 연구 개발 현황을 정리한 자료를 발간했다. 주요 내용을 공유한다.

(보고서) LLM을 당장 중앙은행 업무에 투입하기는 어려울 듯 - 신현송 공저 BIS 보고서

챗GPT와 LLaMa 등 생성형 AI 열풍을 불러일으키면서 세계적인 주목을 끌고 있는 거대언어모델(LLM, '대규모언어모델'로도 불림)의 능력과 한계에 관한 논문이 쏟아지고 있다. 아주 제한적인 규모의 언어와 제한적인 패턴에 기반해 작동하던 이전 모델과 달리 LLM은 막대한 양의 자연어를 이해하고 생성할 수 있도록 훈련된 AI 모델로 각광을 받고 있다.

심지어 LLM이 많은 분야에서 인간의 능력을 앞서고 인간의 노동을 대체하리라는 전망도 쏟아지고 있다. 여기에 덧붙여, 경제와 관련해 가장 광범위하고 신속하며 정확한 정보 수집과 처리, 그리고 분석과 예측 기능을 보유해야 하는 기관 중 하나인 중앙은행 업무에 과연 조만간 LLM이 인간을 대체할 수 있을 것인가?

이런 질문과 관련해 국제결제은행(BIS)이 "아직은 부족한 점이 많다"는 결론을 제시한 간이 보고서를 발간했다. 이 보고서(스위스데이터사이언스센터의 페르난도-페레즈 크루즈와 BIS의 신현송 공동 저술) 주요 내용을 소개하고 링크 전문을 공유한다. 보고서 자체는 비교적 짧지만, 생성형 AI 관련 참고자료 목록이 공개돼 있어서 관심 있는 사람에게 큰 도움이 될 것이다.

(참고자료) AI와 경제를 동시에 생각하는 사람들을 위한 IMF의 지침서

인공지능(AI) 개념과 초기 발명품이 세상에 나온 지는 오래됐다. 당시만 해도 만화, 소설, 에세이, 논문, TV 드라마, 그리고 영화 등 각종 매체를 통해 AI가 모든 영역에서 인간이 하는 일을 돕거나 대체하게 되리라는 전망이 확산했다. 그 진화의 끝은 결국 AI가 인류를 대체하는, 즉 인류가 '필요 없어지는' 상황에 이르리라는 공포감이 현실감있게 받아들여질 지경이었다.

인터넷 버블 붕괴로 투자가 주춤한 가운데 AI 혁신은 한동안 미뤄지고 결국 AI에 관한 기대도 식는 듯했으나, 최근 체스와 바둑 등 고도의 인간 지능을 동원한 훈련이 필수적이라는 게임에서 심즈, 알파고 등 컴퓨터 프로그램이 인간을 꺾는가 하면 생성형 AI가 발표되면서 한꺼번에 몇 단계는 뛰어넘은 듯한 혁신이 일어나고 있다.

이에 수많는 책이 다시 쏟아져 나오고 각종 참고자료도 속속 발간되지만, 그럴 수록 '믿을 만한' 자료를 구하기는 어려워지고 있다. 이런 가운데 국제통화기금(IMF)이 계간지 『Finance & Development』 최근호를 통해 '인공지능과 경제학에 주는 의미'라는 주제에 관한 여러 편의 유용한 글을 게재했다. 

(블룸버그 오피니언) ChatGPT가 내 일을 대신 한다면서요? 나는 뭘 하면 되죠?

ChatGPT의 뛰어난 기능에 관한 글이 많이 보인다. 개인적인 사용 소감이나 증권사 보고서에서 한국은행 연구 보고서까지 대체로 ChatGPT가 사무직 업무에 매우 능숙하다는 점을 강조하는 내용이 주를 이룬다. 하지만, 과거 이런 저런 획기적인 기술 개발이 이루어졌을 때 "앞으로 00년 뒤에는 00가지 일자리가 사라질 것"이라는 종류의 예언이 난무했지만, 그대로 실현된 적은 별로 없다. 물론 직능의 성격이 바뀌긴 했다. 

이와 관련한 블룸버그 오피니언 글이 있어 소개한다. 글쓴이는 생성형 AI가 어느 정도의 단순 업무를 대체할 수 있겠으나, 그렇다고 해당 직능을 수행하는 모든 인력을 대체하기는 어려울 것이라고 지적한다. 내가 일했던 분야에서도 비슷한 일이 벌어졌다. 과거에는 정보 접근 자체가 모두에게 개방돼 있지 않았기에, 기자들은 정보를 온전히 취득해서 독자에게 전달하는 일이 업무의 한 부분이었다.

그렇지만, 인터넷이 발달하고 공공 부분의 정보 접근이 거의 모든 사람에게 개방되면서 이런 정보 취득과 전달 기능은 기자 업무의 지극히 일부가 됐다. 그렇게 되면서 기자에게 요구되는 기능은 한 차원 높아졌고, 오늘날 기자들은 정보의 가치 판단, 시계열 분석, 향후 효과 등에 관한 올바른 지침을 제공하는 능력을 요구받고 있다.

일자리 대체 전망에 대해서도 개인적으로 경험한 바가 있다. 1980년대 후반 신문사에서 근무하고 있었는데, 당시 컴퓨터라는 것이 한 두대 씩 설치되면서 이제 종이 업무가 사라지고 단순 업무를 하는 일자리는 없어지리라는 말이 돌았다. 그런데 컴퓨터가 설치되면서 보조 업무를 하던 분들은 컴퓨터 관리 대장을 손으로 기록해서 결제를 받아야 했고, 컴퓨터가 한 일도 일일이 인쇄해서 캐비닛에 보관하고 기록해야 했다. 결국 이들의 일자리는 '한동안' 없어지지 않았다.

아래 번역에는 의역이나 축약이 포함돼 있다. 

(참고) G7 국가들이 바라보는 생성형 AI의 기회와 과제 -OECD 보고서

OECD 사무국은 G7 국가간 협력 강화와 공유된 정책 목표 달성을 위한 관련 분야 정책 분석 및 연구를 제공하고 의사결정 지원을 수행하고 있다. 2023년 4월, G7 디지털기술 장관회의에서 AI 거버넌스 프레임워크 간 상호운용성과 생성형 AI의 기회와 도전과제 조사를 위한 국제적 논의 필요성이 강조된 바 있다. 이후 2023년 5월, G7 정상회의에서는 포용적 방식으로 생성형 AI에 관한 논의를 지속하는 ‘히로시마 AI 프로세스(Hiroshima AI process)’를 수립하기로 합의했으며, 이에 따라 일본(의장국)은 G7 회원국 대상으로 기존/계획된 정책 이니셔티브, 생성형 AI의 기회와 위험 고려사항을 조사하는 설문조사를 실시해 그 결과를 『G7 Hiroshima Process on Generative AI: Towards a G7 common understanding on generative AI』라는 보고서로 공개했다. 주 오이시디 대표부는 이 보고서의 주요 부분을 번역해 소개했다. 한글 보고서와 영문 보고서 링크는 맨아래 공유한다.