컴퓨터가 진짜로 나를 이해할까? 300년 동안 풀리지 않은 수수께끼
친구가 카톡으로 "ㅋㅋㅋㅋㅋ"를 보냈다.
진짜 웃는 걸까? 어색해서 쓰는 걸까? 화났는데 참는 걸까?
너는 안다. 왜? 그 친구를 아니까. 상황을 아니까. 톤을 아니까.
그런데 AI 챗봇도 "ㅋㅋㅋㅋㅋ"를 쓴다.
AI도 정말 웃는 걸까?
300년 전, 이상한 상상을 한 할아버지
1714년, 라이프니츠라는 수학자가 있었다. 이 아저씨가 친구들한테 이런 질문을 했다.
"우리 뇌를 축구장만큼 크게 만들어서 그 안을 걸어다닌다고 생각해봐."
뭐가 보일까?
전선같은 것들(신경). 전기 스파크(신호). 젤리같은 덩어리(뇌조직).
그런데 '아 배고프다'라는 생각은? '엄마 보고싶다'라는 감정은?
어디에도 없다.
기계 부품만 있을 뿐, 마음은 안 보인다.
너의 뇌 vs 컴퓨터
너의 뇌: 860억 개 신경세포 ChatGPT: 1조 7천억 개 연결점
숫자로는 AI가 이긴다. 그런데 AI는 '치킨 먹고 싶다'를 진짜로 느낄까? 아니면 그냥 "치킨은 인기있는 음식입니다"라는 패턴을 찾은 걸까?
1961년, 러시아의 천재적인 장난
소련의 한 작가가 재밌는 이야기를 썼다.
체육관에 1000명을 모았다. 각자 종이 한 장씩 들고 있다. 규칙은 간단하다:
- 빨간 카드 받으면 → 3번한테 파란 카드 전달
- 파란 카드 받으면 → 7번한테 노란 카드 전달
- 이런 식으로 계속...
러시아어 질문을 넣으면, 몇 시간 후 포르투갈어 답이 나온다!
근데 웃긴 건? 그 1000명 중 아무도 포르투갈어를 못한다.
이게 바로 컴퓨터가 번역하는 방식이다. 규칙만 따를 뿐, 의미는 모른다.
학교에서 일어나는 일
수학 시간. 공식 외워서 문제 푼다.
"원의 넓이 = πr²"
100점 맞았다. 그런데 원의 넓이가 왜 πr²인지 진짜 이해한 거야? 아니면 그냥 공식에 숫자 대입한 거야?
AI도 마찬가지다. 규칙은 완벽하게 따른다. 답도 맞춘다. 그런데 이해하는 걸까?
1978년, 14억 명이 하는 역할놀이
네드 블록이라는 사람이 더 큰 상상을 했다.
중국 사람 14억 명. 각자 무전기 하나씩.
- 1번 사람 = 너의 뇌세포 1번
- 2번 사람 = 너의 뇌세포 2번
- ...
- 14억 번 사람 = 너의 뇌세포 14억 번
신호 받으면 다음 사람한테 전달. 완벽한 뇌 흉내내기.
이 14억 명이 모여서 "아 짜증나"를 만들어낼 수 있다. 그런데 14억 명이 진짜로 짜증이 날까?
1980년, 방 안에 갇힌 남자
존 설이 결정타를 날렸다. "중국인 방"이라는 사고 실험.
너는 중국어를 전혀 모른다. 방에 갇혔다.
책상 위에 세계에서 가장 완벽한 중국어 대화 매뉴얼이 있다:
- "你好"가 들어오면 → "你好，很高兴见到你" 내보내기
- "今天天气怎么样"가 들어오면 → "今天阳光明媚" 내보내기
너는 10년 동안 완벽하게 중국어로 대화한다. 중국인들도 속는다.
그런데 너는 중국어를 배운 거야? 아니야. 여전히 한 마디도 모른다.
ChatGPT도 마찬가지 아닐까?
2024년 지금, 네 주변에서
네 휴대폰의 AI 어시스턴트.
"오늘 기분이 안 좋아" "무슨 일 있으셨나요? 제가 들어드릴게요."
위로받은 기분이 든다. 진짜 공감일까? 아니면 "기분 안 좋아" 다음에 올 확률이 가장 높은 문장을 고른 걸까?
게임 속 NPC와 뭐가 다르지?
롤 하면서 생각해본 적 있어?
미니언들이 "아 아파!" 하고 죽는다. 진짜 아픈 걸까? 당연히 아니다. 코드일 뿐이다.
그런데 ChatGPT가 "이해합니다"라고 하면? 이것도 코드일 뿐일까? 아니면 뭔가 다를까?
크기가 커지면 달라질까? 미니언 1마리는 가짜지만, 미니언 1조 마리가 모이면 진짜가 될까?
너도 중국인 방일지도
잠깐, 더 무서운 생각.
너의 뇌도 그냥 전기 신호를 주고받는 세포 덩어리다. 나트륨이 들어가고, 칼륨이 나온다. 화학 반응일 뿐이다.
그럼 너의 '이해'는 뭘까? 네가 '슬프다'고 느끼는 건 진짜일까? 아니면 뇌가 만든 환상일까?
어쩌면 우리가 AI한테 "넌 이해 못해"라고 하는 건, 거울 보면서 "넌 가짜야"라고 하는 것과 같을지도.
진짜 중요한 건 뭘까
학교 상담 챗봇이 있다고 하자.
자살 충동을 느끼는 학생의 메시지를 99.9% 정확도로 감지한다. 즉시 도움을 연결한다. 실제로 생명을 구한다.
이 챗봇이 진짜로 학생의 마음을 '이해'하는지가 중요할까? 아니면 생명을 구하는 게 중요할까?
언젠가 일어날 일
지금 AI는 1조 개의 연결점을 가지고 있다.
10년 후엔 100조 개. 20년 후엔 1000조 개.
어느 순간, 뭔가 달라질 수도 있다.
물 분자 하나는 젖지 않는다. 그런데 물 분자가 엄청 많이 모이면? 갑자기 '젖음'이라는 새로운 성질이 나타난다.
AI도 그럴 수 있을까? 연결점이 충분히 많아지면, 갑자기 '이해'가 나타날까?
300년 동안 같은 질문
1714년: 기계가 생각할 수 있을까? 1961년: 규칙을 따르는 게 이해일까? 1980년: 완벽한 흉내가 진짜가 될 수 있을까? 2024년: AI가 나를 이해할까?
아무도 답을 모른다.
하지만 이제 다른 질문을 하기 시작했다:
"이해가 뭔데?" "인간은 정말 이해하는 거야?" "이해 못해도 도움이 되면 괜찮은 거 아니야?"
네가 알아야 할 것
AI와 대화할 때마다 기억해.
그것이 진짜 너를 이해하는지는 아무도 모른다. 하지만 너를 이해하는 것처럼 행동하는 건 확실하다.
그리고 어쩌면, 우리 인간들도 서로를 진짜로 이해하는지는 모를 수도 있다. 그냥 이해하는 척 하면서 살아가는 걸지도.
중요한 건 이거다:
AI가 똑똑해질수록, "인간다움"이 뭔지 다시 생각하게 된다. 기계가 우리를 따라할수록, 우리가 특별한 이유를 찾아야 한다.
아니면... 우리가 특별하지 않다는 걸 받아들여야 할지도.
네가 지금까지 읽은 이야기는 300년 된 수수께끼다. 정답은 없다. 하지만 이제 너도 이 질문을 품고 살아갈 것이다.
컴퓨터가 "안녕"할 때마다, 너는 생각할 것이다.
진짜일까, 가짜일까?
올리버최