인공지능도 생각할 수 있을까?

튜링의 사고실험

튜링 테스트는 영국의 수학자 앨런 튜링이 제시한 일종의 사고 실험입니다. 튜링은 어떤 사람이 인공지능과 채팅을 할 때, 그것이 사람인지 인공지능인지 판별할 수 없다면, 그 인공지능은 인간처럼 생각하는 능력을 가진 것으로 봐야 한다고 주장합니다.

튜링의 주장을 받아들이면, 이세돌을 이긴 알파고는 생각하는 능력을 가진 것이고, 내 말을 알아듣고 명령을 수행하는 애플의 시리도 생각하는 능력을 가진 거예요. 각자의 취향에 맞는 콘텐츠를 귀신같이 골라내서 더 많은 사람들에게 노출시키는 유튜브 알고리즘도 생각하는 능력을 가진 것이고요.

​

로봇청소기도 배가 고플까?

알파고나 시리, 유튜브 알고리즘이 정말로 생각하는 능력을 갖고 있을까요? 글쎄요, 아닌 것 같죠? 그런데 왜 튜링은 이런 주장을 했을까요?

요즘 나오는 로봇 청소기에는 아주 재미있는 기능이 있어요. 배터리가 방전될 쯤이면 알아서 콘센트를 찾아가서 충전을 시작해요. 혹시 로봇 청소기가 ‘배터리가 거의 다 됐는걸. 빨리 충전해야지’라고 생각한 걸까요?

관점을 한번 달리해봅시다. 민수가 갑자기 소파에서 일어나서 빵을 먹었다고 합시다. 왜 그랬을까요? 배가 고프니까 그랬겠죠. 원숭이가 갑자기 나무 위로 올라가서 바나나를 따서 먹고, 다람쥐가 도토리를 먹는다고 합시다. 왜 그랬을까요? 배가 고프니까 그랬겠죠.

그런데 송충이가 솔잎을 먹는다고 합시다. 왜 그랬을까요? 배가 고파서 그랬을까요? 송충이도 배고픔을 느낄까요? 송충이가 ‘아이 배고파. 솔잎이나 먹자’라고 생각했을까요? 식충식물이 날파리를 잡아먹는다고 합시다. 배가 고파서 그랬을까요?

인간이 빵을 먹거나, 원숭이가 바나나를 먹거나, 다람쥐가 도토리를 먹는 행위는 배고파서 하는 행위이고, 송충이가 솔잎을 먹거나 식충식물이 날파리를 잡아먹는 행위는 배고파서 하는 행위가 아닌 건가요? 이것들 사이에 차이가 있나요? 구분하기 애매하지 않나요?

튜링은 인간, 원숭이, 다람쥐, 송충이, 식충식물의 행위를 모두 넓은 의미에서 보면 배고파서 하는 행위라고 봐야 한다고 주장합니다. 로봇청소기가 충전하는 행위도 마찬가지로 더 넓은 의미에서 보면 배고파서 하는 행위로 봐야 하고요. 즉 로봇 청소기도 배고프다는 생각을 가진 것으로 봐야 한다는 거죠. 로봇 청소기도 생각할 수 있는데, 알파고나 시리, 유튜브 알고리즘은 당연히 생각하는 능력을 갖고 있겠죠. 이것이 튜링의 주장이에요.

 

존 설의 중국어 방

미국의 심리철학자인 존 설은 튜링의 주장에 반박하는 논증을 제시했습니다. 이른바 ‘중국어 방’ 논증입니다.

민수가 밀폐된 방 안에 있다고 합시다. 민수는 중국어를 전혀 할 줄 몰라요. 그 방 안에는 중국어로 된 질문 목록과 적절한 중국어 답이 적혀 있는 책이 한 권 있어요. 방 밖에서 어떤 중국 사람이 중국어로 된 질문 쪽지를 넣으면, 민수는 그 책에 적힌 질문 목록을 보고 거기에 맞는 중국어 답을 쪽지에 적어서 밖으로 내보내요. 그러면 방 밖에 있는 사람은 방 안에 있는 민수가 중국어를 할 줄 안다고 착각할 수 있겠죠. 그런데 사실 민수는 중국어를 전혀 몰라요.

존 설은 중국어 방에 있는 사람이 중국어를 전혀 할 줄 몰라도 ‘중국어 방’ 자체는 중국어를 할 수 있는 것처럼, 인공지능이 인간처럼 대화할 수 있다고 하더라도 인간처럼 생각하는 능력을 가진 것은 아니라고 주장합니다. 마찬가지로 알파고나 시리, 유튜브 알고리즘도 생각하는 능력이 있는 것처럼 보이지만, 사실은 인간처럼 생각할 수 있는 능력을 가지고 있는 것은 아니라는 말이죠.

 

중국어 방에 대한 반론 — 시스템 논변

존 설의 ‘중국어 방’ 논증에 대한 여러 반론 중 대표적인 것이 ‘시스템 논변’입니다. 만일 중국어 방에서 완벽한 중국어 답변이 나온다면, 과정이 어떻든 간에 그 중국어 방 시스템은 중국어를 할 수 있는 능력이 있다고 봐야 한다는 것입니다. 즉 민수는 중국어를 할 줄 모르지만, ‘민수, 민수가 있는 방, 중국어 질문과 답이 적혀 있는 책, 중국어로 된 질문 쪽지, 중국어로 된 답변 쪽지’ 등을 하나의 시스템으로 보면, 그 중국어 방 시스템은 중국어를 할 수 있다고 볼 수 있다는 것이죠.

생각해보세요. 나는 한국어를 할 줄 알아요. 그런데 내 두뇌가 한국어를 할 줄 아나요? 내 두뇌의 뉴런 어느 부분이 한국어를 할 줄 아나요? 한국어를 할 줄 아는 뉴런은 없어요. 하지만 내 두뇌, 발성기관, 그것을 연결하는 신경세포들로 이루어진 시스템 전체가 한국말을 할 수 있다고 볼 수 있는 것이죠. 이것이 바로 시스템 논변입니다.

 

그래서 인공지능은 생각을 할까?

인공지능 기술은 이런 철학적 논란과는 별도로 나날이 발전하고 있습니다. 미래에는 인공지능이 환자에 대한 진단과 법적인 판단을 하게 될 것이라고들 합니다. 그렇다면 이러한 일까지 할 수 있는 인공지능이 생각할 능력이 없다고 할 수 있을까요? 제가 보기에 이 문제는 뒤집어서 생각해야 할 것 같습니다. ‘생각한다’는 것의 의미를 고정해두고, 이 의미에 비추어볼 때 ‘인공지능이 생각할 수 있는가?’를 따질 것이 아니라, 오히려 생각한다는 것의 의미 자체를 수정하는 것이죠. 이렇게 하면 생각한다는 의미의 외연이 넓어질 것입니다.

​

이 포스트는 『5분 뚝딱 철학 : 생각의 역사』(김필영)에서 발췌, 재정리한 것입니다.