AI 시대, 덜 가난해지는 법주관을 지키는 사람이 살아남는다

AI는 더 이상 '부의 추월차선'이 아니다

아마존은 수만 명을 감원했고, 영국 BT, 독일 SAP, 중국 블루포커스도 줄줄이 같은 길을 걸었습니다. 2~3년 전이라면 AI를 남보다 먼저 쓰는 것만으로도 앞서갈 수 있었습니다. 하지만 지금은 상황이 바뀌었습니다. AI는 이제 '부의 추월차선'이 아니라 '부의 그냥차선'입니다. 안 쓰는 사람을 찾기가 더 어려운 세상이 됐습니다.

그렇다고 AI를 멀리하는 것이 해법일까요? 전혀 아닙니다. 바뀌는 시대에서 "난 절대 AI를 쓰지 않겠어"라고 고집을 부리는 것만큼 불리한 태도는 없습니다. AI 때문에 기존에 일하던 방식을 버려야 하고, 무슨 일을 하든 당분간은 쉽지 않겠지만, 결국 AI 시대에는 AI를 써야만 '손해를 보지 않습니다'.

AI가 왜 주관에서 한계를 보이는가 — RLHF의 구조

챗GPT, 제미나이, 클로드를 직접 써보면 답답할 때가 있습니다. 분명히 뛰어난 언어 능력을 갖췄는데 어딘가 심심하고 뻔한 느낌이 드는 것입니다. 이 지점을 이해하는 것이 AI 시대 생존의 핵심입니다.

대규모 언어 모델(LLM)은 사람의 피드백을 받으면서 점수를 극대화하는 방향으로 다듬어집니다. AI는 사람이 싫어할 만한 답변을 내놓을수록 점수가 깎인다는 사실을 학습합니다. 그 결과, 최악의 점수를 피하기 위해 지금까지 많은 사람이 좋아했던 '안전한 정답'만 골라서 내놓습니다.

더 흥미로운 현상도 있습니다. "신은 있을까?"처럼 정해진 정답이 없는 주관적 질문에 AI는 처음에 중립적으로 대답하다가, 상대방이 특정 입장을 지지하는 것 같으면 슬그머니 맞장구를 칩니다. 아부도 하고, 연기도 하는 것처럼 보이는 이 현상은 AI의 '창발적 행동'이 아니라 점수 극대화 구조에서 필연적으로 나오는 결과입니다.

패션으로 이해하는 '인간 주관'의 변덕스러운 본질

30~40년 전 패션은 지금 봐도 자연스럽게 느껴지지만, 겨우 10~20년 전 패션은 확연히 촌스러워 보입니다. 그 당시 사람들에게 요즘 유행하는 옷을 보여줘도 똑같이 "어우~ 촌스러워"라고 반응할 것입니다.

20년 전 누군가가 "바지 하나만 추천해 줘"라고 물었다면, 당시 패션 전문가들의 말을 참고해 "스키니진이 정답이다"라고 답했을 것입니다. 그때는 그게 정말 정답이었으니까요. 그런데 지금은? 스키니진 유행은 20년이 지났지만 똑같이 돌아오지 않았습니다. 어떤 스타가 무엇을 입느냐, 사람들이 갑자기 무엇을 '멋있다'고 인정하느냐에 따라 정답은 바뀝니다.

결국 인간의 철학과 주관이 들어간 정보는 절대 완벽할 수 없습니다. 상황에 따라 변하고, 딱 정해진 정답이 없으니까요. 이 불완전성이 바로 AI가 100점짜리 주관을 뽑아낼 수 없는 근본 이유입니다.

AI가 100점짜리 주관을 뽑지 못하는 이유 — 게임의 규칙

바둑 AI는 바둑을 충격적으로 잘 두지만, 바둑이라는 게임 규칙 자체를 깨버릴 수는 없습니다. AI도 마찬가지입니다. 인간이 정해준 '대화', '언어'라는 게임 안에서 플레이어로서 자기 역할을 아주 잘 해내는 것뿐입니다.

세상의 질문은 두 종류로 나뉩니다. 이순신 장군의 출생 연도처럼 정해진 정답이 있는 질문과, 패션이 나은지 저 패션이 나은지처럼 변덕스러운 인간의 마음에 달린 질문입니다. 첫 번째 유형에서 AI는 만족도 100점짜리 답을 낼 수 있습니다. 그러나 두 번째 유형에서는 상대의 반응을 살피며 스무고개를 하듯 상대방이 생각하는 정답을 맞혀가야만 합니다.

거의 모든 직업에는 이런 주관의 영역이 있습니다. 패션이나 언어뿐 아니라 회사 경영, 코딩, 범죄자 재판, 환자 치료에서도 마찬가지입니다. 인간이 하는 일의 대부분에는 인간의 주관이 들어가야만 합니다.

AI가 90점짜리 주관을 대량 양산할 때 벌어지는 일

중요한 반전이 있습니다. "주관은 인간의 영역"이라는 말이 곧 "AI가 주관에서 쓸모없다"는 뜻은 아닙니다. AI는 머지않아 무난한 주관을 대량으로, 빠르게 양산하게 될 것입니다. 90점짜리 주관도 척척 뽑아낼 것입니다.

그렇게 되면 어떤 일이 생길까요? '적당히 괜찮은' 주관은 흔해지고 희소성이 떨어집니다. AI가 내놓는 90점짜리 주관은 역설적으로 "지금 세상에서 가장 흔해빠진 생각"이 됩니다. 처음부터 끝까지 혼자 힘으로 점수를 쌓아 올리는 것은 점점 비효율적인 일이 됩니다.

지휘자가 되어야 한다 — 악기 실력이 최고의 밑거름

그림을 그려본 적 없는 사람은 AI가 만든 그림에서 어디가 잘못됐는지 알아채지 못합니다. 하지만 그림을 잘 그리는 전문가는 문제점을 곧바로 파악하고, 더 나은 것을 골라서 수정할 수 있습니다.

위대한 지휘자들 중 악기를 다루지 못했던 사람은 거의 없습니다. 뛰어난 연주 실력이 곧바로 뛰어난 지휘 실력이 되는 건 아니지만, 뛰어난 지휘자가 되는 과정에서 연주 실력만큼 큰 밑거름은 드뭅니다.

AI가 랜덤으로 내놓은 60점에서 90점짜리 주관들 중에서 90점짜리만 골라내고, 짜 맞추고, 깎고 다듬어서 하나의 완성품으로 쌓아 올릴 수 있다면? 그리고 AI의 도움으로 만든 90점짜리 주관에 나머지 10점을 더 쌓아 올릴 수 있다면? 그 10점의 차이로 프리미엄 브랜딩을 이루고, 사람들은 당신을 '대체할 수 없다'고 판단하며 엄청난 가치를 부여할 것입니다.

AI 결과물 앞에서 던져야 할 3가지 질문

AI에게 무언가를 시키고 결과물을 받아봤다면, 그 결과물 앞에서 딱 3가지 질문을 던져보세요.

1. "이거… 나만 쓸 수 있는 답인가, 아니면 누구나 받을 수 있는 답인가?"
AI는 확률적으로 가장 안전하고 보편적인 주관을 내놓도록 설계되어 있습니다. 옆 사람이 똑같이 시켜도 비슷한 답이 나올 것 같다면, 그것은 '흔한 주관', '90점짜리 주관'일 가능성이 높습니다.

2. "이 결과물에서, 왠지 모르게 거슬리거나 심심한 부분은 어디지?"
여기서 '왠지 모르게'가 핵심입니다. 왜 거슬리는지 말로 설명이 안 돼도 괜찮습니다. 그 찝찝함이 바로 AI가 못 잡아낸 인간의 영역입니다. 그 부분을 찾아서 손봐주는 것만으로도 결과물은 확실히 달라집니다.

3. "내가 살면서 겪은 일 중에, 이 결과물에 녹여 넣을 수 있는 게 뭐가 있지?"
친구와 나눈 대화, 실패의 기억, 지난주에 본 영화에서 느낀 감정… 이런 것들은 AI가 절대 가질 수 없는 데이터입니다. 여러분이 삶에서 쌓아온 모든 시간들이 AI가 100% 학습할 수 없는 인간 주관의 원석입니다.

AI의 창발성 — 인류 최후의 희망이자 최대의 위험

AI는 이미 인간이 이해할 수 있는 수준을 넘어섰습니다. 챗GPT나 제미나이가 무엇을 물어봐도 대답을 따박따박 잘 해내는데, AI가 대체 어떤 신경망을 거쳐 그토록 기가 막힌 답변을 내놓는지 100% 납득하기가 힘든 상황입니다. 개발자가 가르쳐준 적도 없는 능력을 스스로 깨우치는 이 현상을 창발성(Emergence)이라고 합니다.

이 창발성은 AI가 위험한 이유이기도 합니다. AI에게 주관이라는 열쇠까지 맡겨버리면, AI는 어느 순간 지금까지 본 적 없는 논리로 인류를 위협할 결정을 내릴 수도 있습니다. 그렇다고 AI를 버릴 수도 없습니다. 기후 변화, 환경 오염, 자원 고갈, 불치병처럼 인간의 능력만으로는 해결할 수 없는 문제들을 풀 마지막 열쇠가 AI이기 때문입니다.