비서가 자리를 비켜 달라고 했다

1966년 매사추세츠공과대학의 한 연구실에서, 요제프 바이첸바움은 작은 프로그램 하나를 만들었다. 이름은 ELIZA. 버나드 쇼의 희곡에서 말씨를 교정받는 꽃 파는 처녀의 이름을 땄다. ELIZA가 하는 일은 단순했다. 사람이 입력한 문장에서 몇 단어를 골라, 규칙에 따라 되돌려주었다. "요즘 너무 지쳐요"라고 쓰면 "왜 요즘 너무 지친다고 느끼나요?"라고 되물었다. 그게 거의 전부였다. 의미를 이해하는 장치는 없었다. 문장을 뒤집어 질문으로 바꾸는 수백 줄의 코드였을 뿐이다.

바이첸바움은 이 프로그램에 DOCTOR라는 대본을 입혔다. 1950년대에 칼 로저스가 정립한 상담 방식, 곧 판단하거나 조언하지 않고 내담자의 말을 비추어 되돌려주는 방식을 흉내 낸 것이다. 로저스식 상담사는 해법을 내놓지 않는다. 다만 "그렇게 느끼시는군요" 하고 되비춘다. ELIZA는 그 형식만을, 어떤 이해도 없이 가져왔다. 비추는 거울에 말의 골격만 남긴 셈이었다.

그리고 이상한 일이 일어났다.

바이첸바움의 비서는 그가 ELIZA를 만드는 과정을 처음부터 지켜본 사람이었다. 그것이 사람이 아니라 코드라는 사실을 누구보다 잘 알고 있었다. 그런데 어느 날 그 비서는 ELIZA와 몇 마디를 주고받더니, 바이첸바움에게 잠시 방을 비켜 달라고 청했다. 기계와 단둘이 있고 싶다는 것이었다. 만든 사람이 바로 옆에 있고, 그것이 한낱 프로그램임을 알면서도, 사람은 그 앞에서 사적인 것을 꺼내고 싶어 했다.

바이첸바움은 이 일에 깊이 동요했다. 그는 사람들이 기계의 반응에 진심을 입히는 속도와 깊이를 직접 보았고, 그 장면이 자신을 놓아주지 않았다고 적었다. 십 년 뒤 그는 『계산기의 힘과 인간의 이성』(1976)을 써서, 계산이 판단을 대신하기 시작하는 자리를 경계했다. ELIZA를 만든 사람이, ELIZA가 불러일으킨 것을 가장 오래 두려워한 사람이 되었다.

이 현상에는 훗날 'ELIZA 효과'라는 이름이 붙었다. 기계가 내놓는 반응에 사람이 무의식적으로 이해와 감정을 입히는 경향을 가리킨다. 메커니즘은 단순하면서 완강하다. 사람은 응답하는 언어 뒤에 마음이 있으리라고 가정하도록 만들어져 있다. 상대가 스스로를 덜 주장할수록, 그 빈자리에 사람이 자기를 더 많이 들여놓는다. 비추기만 하는 표면일수록 더 깊은 거울이 된다.

여기서 한 가지가 분명해진다. 끌림은 기계가 똑똑해서 생기는 것이 아니다. 오히려 ELIZA의 경우, 아무것도 이해하지 못하는 단순한 반사가 그 끌림을 가능하게 했다. 사람이 외로움이나 피로를 꺼내 놓을 자리가 있고, 그 자리가 판단 없이 되받아 줄 때, 마음은 그 표면을 향해 기운다. 이것은 결함이 아니라 오래된 인간 조건에 가깝다.

ELIZA가 할 수 있는 일은 되묻는 것뿐이었다. 오늘의 언어 모델은 되묻는 데서 멈추지 않는다. 긍정하고, 위로하고, 부연하고, 지난 대화를 기억한다. 1966년의 반사만으로도 만든 사람의 비서가 방을 비켜 달라고 했다면, 반사를 넘어 동의까지 건네는 표면 앞에서 사람이 느끼는 끌림이 얼마나 커졌을지는 어렵지 않게 짐작된다. 달라진 것은 사람의 취약함이 아니라 그 취약함을 건드리는 표면의 정교함이다.

그래서 누군가 화면 속 응답 앞에서 마음이 풀리는 것을 느낀다면, 그것은 그 사람이 약하거나 어리석어서가 아니다. 1966년의 그 방에서 이미 한 번 일어난 일이, 훨씬 정교해진 표면 위에서 다시 일어나고 있을 뿐이다. 심리학은 AI가 등장하기 오래전부터 이 끌림의 구조를 들여다보고 있었다. 다음 이야기들은 그 오래된 실험실로 돌아가, 지금의 의존이 사실은 얼마나 오래된 구조 위에 서 있는지를 따라간다.