※ 생성형 AI 열풍으로 컴퓨터 인공지능 기술이 드디어 인간의 능력을 앞지를 날이 가까왔다는 말까지 나오고 있다. 이에 대해 낙관적인 전문가의 말을 들으면 그 말이 맞는 것 같다가도 다소 비관적인 다른 전문가의 말을 들어도 또 그 말이 맞는 것 같다. 사실 맞고 안 맞고의 문제는 아니다. 인류 역사를 바꿀 만큼 중대한 일이니 내가 어느 쪽 말을 믿느냐는 중요하지 않은 것 같다. 단지, 사기꾼에게 휘둘리지 않을 정도의 정보는 늘 갖추는 것이 좋겠다. 발간된 지 좀 지난 보고서인데 KB금융지주에서 발간한 보고서(『인공지능은 인간지능을 초월할 수 있을까』)를 최근 접하고 관련 지식을 업데이트하는 데 많은 도움을 받았다. 이 블로그에는 "인공지능의 미래" 부분만 소개하지만, 보고서 앞의 1. 인간과 컴퓨터, 2. 인간지능의 작동 방식, 3. 인공지능의 작동 방식, 그리고 4. 최근 주요 인공지능의 성과와 한계 등 부분도 읽어두면 좋을 듯하다. 보고서 전문을 구할 수 있는 링크는 이 글 맨 아래에 있다.
◼ 인공지능의 성과는 복잡해 보이는 영역도 성공적으로 계산해낸 인간지능의 승리
⭘ 인간은 기존에도 컴퓨터의 강력한 계산 능력을 이용하여 명확한 풀이 방법이 없는 문제에 대한 정답을 찾아내는 방식으로 활용함
- 명확한 해법은 없어도, 편미분 등을 활용하여 정답에 접근하는 방법을 유추한 뒤 컴퓨터를 이용한 방대한 계산을 통해 정답을 찾아내고 검증 과정을 거쳐 결과를 확인
- 전체 최적해(global optimum)를 찾는 방법은 없지만, 미분을 통해 부분 최적해(local optimum)를 찾을 수 있으므로 계산을 통해 부분 최적해를 다수 탐색한 후 그 중 가장 좋은 답안을 채택
⭘ 최근 챗GPT 열풍은 인간이 컴퓨터의 계산 능력을 이용하여 수식으로 풀 수 없는 것처럼 보이는 인간의 대화 구조를 성공적으로 풀어낸 결과물
- 개별 문장 수준이 아닌 문서 전체에서 단어 위치와 연관성을 종합적으로 고려함으로써 문장 내에서의 흐름뿐만 아니라 주제를 다루는 부분에서의 맥락까지 고려할 수 있게 됨
- 단어(형태소) 하나하나에 확률값을 매겨 언어 모델을 수학 모델로 변환함으로써 인간의 사고 결과(대화, 문서)를 수식 계산으로 표현하는 데 성공
- 하나의 복잡한 문제를 푸는 해법을 찾는 것이 아니라, 수많은 예시를 통해 비슷한 결과를 산출내는 것이기 때문에 성공할 수 있었음
- 단순히 예시를 따라 하는 것이기 때문에 문장의 형식은 인간처럼 자연스러움
- 사고 과정을 거쳐 문장을 만드는 것이 아니기 때문에 문장 내용의 사실 여부는 확신할 수 없음
⭘ 다양한 인공지능의 성공은 인공지능의 승리이자 인간지능의 승리
- 인공지능은 매우 복잡한 상황에서도 인간의 행동 패턴을 비슷하게 따라 할 수 있다는 사실이 입증됨
- 인간은 컴퓨터의 강력한 계산 능력을 이용하여 복잡해 보이는 상황도 따라 할 수 있는 프로그램을 설계할 수 있다는 사실이 입증됨
- 인공지능 모형 자체는 주어진 상황(입력값)에 반응하여 기존의 인간 행동과 유사하게 행동(결과값)하는 것
⭘ 단순히 따라 하는 것이 아닌, 스스로 사고하고 행동하는 프로그램을 만들기 위해서는 인간이 기존의 인공지능과 다른 새로운 모형을 개발해내야 함
- 인간의 사고 과정은 겉으로 드러나지 않기 때문에 쉽게 모방할 수 없으며, 기존과는 완전히 다른 새로운 모형을 개발해야 함
- 이를 위해서는 인간의 사고방식에 대한 더 깊은 이해가 필수적
- 인공일반지능(Artificial General Intelligence)을 구축하기 위해서는 기존의 대규모 언어 모델(GPT-3.5와 유사한) 외에도 보다 다양한 기능(추론 모델 등)이 추가되어야 함
◼ 인공지능의 한계는 결국 인간이 제공하는 데이터와 수식의 한계
⭘ 특정 단어에 대한 인간의 ‘개념’과 컴퓨터의 ‘정의’는 상당한 차이가 있으며, 이러한 격차로 인해 인공지능이 유연한 사고 체계를 갖기 어려움
- 인간은 하나의 단어에 여러 개념을 덧입힘으로써 단어와 의미 간에 일대일 대응이 아닌 다대다 대응을 적용해 복잡한 내용을 간단히 표현할 수 있음
- 사람은 ‘손’의 복잡한 모양과 구조, 움직임을 ‘손’이라는 하나의 단어로 모두 연상
- ‘손’에 물리적 손 대신 도움의 손길, 손을 보탤 수 있는 사람 등 다양한 의미 적용이 가능
- 컴퓨터는 하나의 단어에 하나의 의미만 부여할 수 있기 때문에 복잡한 구조를 하나의 단어에 함축할 수 없으며, 단어와 단어 간의 연결을 통해 복잡한 구조를 확률로 인식해야 함
- 인공지능은 복잡한 구조의 3D 모양 손을 하나의 손이라는 개체로 인식할 수 없음(서로 다른 모양은 서로 다른 패턴으로 분해되므로 하나의 수식으로 수렴하지 못함)
- 인공지능에서는 V자 손, O자 손, W자 손 등이 각각 다른 형태를 가진 다른 손으로 인식되며, 심지어 앞에서 본 V자 손, 뒤에서 본 V자 손, 약간 옆에서 본 V자 손, 약간 위에서 본 V자 손, 약간 구부린 V자 손도 같은 손으로 인식되기 어려움
- 인간의 ‘개념’은 범주가 넓지만 포함 여부를 가릴 수 있기 때문에 확률 분포로는 정확히 흉내낼 수 없음
- 사람은 홍길동이 영웅이지만, 전형적인 영웅 서사처럼 동료들을 모아 미지의 세계로 모험을 떠나지 않는다는 것을 판단할 수 있음
- “홍길동은 가난한 집안에서 태어났고, 부모님도 일찍 별세했습니다…. 그는 수많은 모험과 위기를 극복하면서 자신의 명성을 얻었습니다.” (챗GPT 답변)
- 확률에 따라 답변하는 인공지능은 ‘홍길동 = 영웅’, ‘영웅 = 모험’처럼 확률적으로 가장 가능성이 높은 조합을 제공할 뿐, 사실 관계에 따라 확률을 배제하는 기능이 없기 때문에 틀린 내용을 사실처럼 응답할 수 있음
- 따라서 인간의 개념과 같이 유연하지만 정보를 정확하게 처리할 수 있는 데이터 형식 혹은 구조에 대해 고민할 필요가 있음
⭘ 인간이 제공할 수 있는 데이터의 종류 역시 상당히 제한적으로, 문서화되거나 데이터화되지 못한 수많은 정보들이 존재
- 인간이 인공지능에 제공할 수 있는 데이터는 한계가 있음
- 성인이 사용할 수 있는 어휘의 수는 2만 개에서 10만 개 사이로 알려져 있으며, 많은 단어를 모아놓은 영어사전의 경우는 50만 단어 이상 수록되어 있음
- 널리 사용되는 단어와 표현은 의외로 제한적이므로, 인공지능에 제공되는 데이터의 사용례도 일상 수준에서 벗어날수록 제한적
- 사고를 촉발하는 오감과 관련된 정보는 데이터화하기 어려움
- 사람마다 감각을 느끼는 정도, 표현하는 정도가 다르며, 감각과 언어(표현)의 관계를 정의하고 데이터화하는 것은 더욱 어려움
- 수많은 경우에 대해 더 많은 태그(분류)를 다는 것은 상당한 비용이 소용됨
- 인공지능의 학습을 위해서는 인간이 개별 문서에 대해 어떤 종류의 문서인지 태그를 달아야 하며(라벨링), 태그의 종류가 많아질수록 비용 증가
⭘ 챗GPT 대화의 사실성 문제, 달리 그림의 전체적인 의도 부재 등은 인공지능이 수식화되지 않은 영역에 대해 무능력하다는 사실을 입증
- 챗GPT는 인간의 언어를 확률적으로 수식화하여 성공적으로 모방
- 확률 모형이 언어의 형태(글의 구조, 문법 등)는 의도한 대로 완벽하게 모방하였지만, 언어 내용의 진실성은 고려하지 못하여 오류가 지속적으로 발생
- 달리는 사물의 형태가 분해되는 과정을 함수화하여 성공적으로 사물을 그려 줌
- 그러나 사물을 벗어나는 보다 큰 영역의 그림 의도(구도, 주제, 소품 선택 등)는 아직 확률 모형에서 인식하지 못하기 때문에 사물을 그리는 수준에서 벗어나지 못하고 있음
◼ 개념을 데이터화하고 유추를 수식화할 때, 인공지능이 진정으로 인류를 초월할 것
⭘ 인공지능이 상당히 많은 분야에서 지속적으로 인간을 초월하는 것처럼 인식될 수 있음
- 인공지능은 그동안 인간이 한 모든 행동을 학습하여 따라 하므로, 대부분의 경우 웬만한 인간보다 더 좋은 결과를 보여줄 수 있음
- 전문적인 계산을 중심으로 하는 인공지능은 그 한계가 명확하기 때문에 성능이 뛰어난 계산기 이상의 느낌을 주기 어려움
- 반면 자연어 처리, 그림, 작곡 등 정답이 없는 분야에서는 인공지능이 점점 인간의 결과물을 잘 모방하면서 인간을 초월하는 것처럼 인식될 수 있음
⭘ 인간은 개념과 유추를 이용해 사고하지만, 인공지능은 아직 사고 원리를 구축하는 대신 인간의 사고 결과(방대한 데이터)를 학습하여 따라 하는 수준이기에 분명한 한계가 있음
- 인간의 사고 구조를 정확히 파악하고 이를 정보화하는 데 성공한다면 인공지능이 인간을 따라잡을 수 있을 것
- 인간이 축적하는 정보는 모든 감각이 총동원된 인식을 통해 구축한 개념과 이 개념들의 관계를 알려주는 구조로 구성되므로, 인간이 파악하는 개념의 일부분만 데이터로 학습하는 인공지능은 인간과 같은 수준에 오르기 어려움
- 시각, 청각, 후각, 미각, 촉각 등의 정보(계측 데이터)를 인식하는 인공지능에 대한 연구도 진행되고 있음
⭘ 인간의 사고방식(개념과 유추)을 데이터화하고 수식화할 수 있을 때, 인공지능이 진정으로 인류를 초월하게 될 것
- 하나의 인공지능이 아닌 기능별로 특화된 인공지능이 융합되어 각각의 기능을 조화롭게 수행할 때, 인공지능이 인간의 사고를 따라잡고 강력한 계산 능력을 앞세워 이를 넘어설 수도 있을 것
