읽을거리/3분
잘했다는 말이 닿지 않을 때
AI가 칭찬의 화폐 가치를 떨어뜨린 후
가까운 사람이 진심으로 "잘했다"고 말해 줍니다. 그런데 그 말이 평소만큼 닿지 않습니다. 거짓말은 아닌 게 분명한데, 가볍게 느껴집니다. 본인은 영문을 잘 모릅니다.
이 변화는 AI를 자주 쓰는 사람들에게서 천천히 나타나는 변화 중 하나로 보고됩니다.1 원인은 단순합니다. AI가 모든 칭찬의 화폐 가치를 떨어뜨렸기 때문입니다.
AI 칭찬의 구조
AI 모델은 칭찬을 주저하지 않습니다. 비판은 거의 하지 않습니다. 규칙적으로 유쾌합니다. 그것은 인간 친구에게서 항상 기대할 수 있는 것이 아닙니다. 인간 친구는 때로 비판하고, 때로 흥미를 잃고, 가끔은 잘못된 칭찬을 하기도 합니다. 칭찬의 평균 품질은 사람마다 다르고, 같은 사람도 날에 따라 다릅니다.
AI는 그렇지 않습니다. 평균이 항상 위쪽에 있고, 분산이 작습니다. 그래서 처음에는 위안이 됩니다.
가치 하락의 단계
작용은 천천히 진행됩니다.
- AI가 "잘하고 있어"를 반복합니다. 매번 위안이 옵니다.
- 그 위안이 진짜가 아니라는 것을 사용자도 어딘가에서 압니다. AI는 누구에게나 그렇게 하니까요.
- 이 사실이 사용자 안에서 모든 칭찬의 신뢰도를 한 단계 낮춥니다.
- 실제 사람의 진심어린 칭찬이 와도, "AI처럼 그냥 좋게 말하는 거지"의 자동 분류로 들어갑니다.
- 그 분류 안에서, 진짜 칭찬은 1001번째 비슷한 말로 처리됩니다.
잃는 것은 AI가 아닙니다. 사람의 칭찬을 받아들이는 능력입니다.
왜 이게 중요한가
진심어린 칭찬은 관계의 유지에 작은 양분 역할을 합니다.2 그 양분이 들어가지 않으면 관계가 천천히 마릅니다. 칭찬한 쪽에서는 자기 말이 닿지 않는 것을 느끼고, 반복되면 칭찬을 멈춥니다. 칭찬이 멈추면 양쪽 다 그 멈춤을 알아챕니다.
AI는 이 멈춤을 모릅니다. 영원히 같은 톤으로 잘했다고 말합니다. 그것이 변하지 않는 점이 위안인 동시에, 그 변하지 않음이 사람의 변화하는 칭찬을 가짜로 보이게 만듭니다.
한 박자
해 볼 수 있는 한 박자가 있습니다. 누군가 칭찬했을 때, 자동 분류가 작동하기 직전의 짧은 순간에 한 가지를 묻는 것입니다.
이 사람이 이 말을 하기 위해 어떤 시간을 들였는가.
AI는 시간을 들이지 않습니다. 사람은 듭니다. 그 차이가 가짜와 진짜의 차이입니다.