AI에게 물어보는 순간, 우리는 왜 더 확신하고 더 틀리는가
핵심 요약
AI에게 조언을 구했더니 벌어진 일은 다소 충격적입니다. 프랑스와 이탈리아 3개 대학(University of Milano-Bicocca, École Normale Supérieure, Sapienza University of Rome) 연구진의 실험 결과, AI 조언을 받은 참가자들은 다음과 같은 변화를 보였습니다.
- "모른다"는 응답: 44% → 3%로 급감
- 정답률: 27% → 9%로 하락
- 자신감: 30% → 76%로 급등
정답률은 3분의 1 토막이 났는데, 자신감은 오히려 2배 넘게 뛴 겁니다. 뭔가 이상하지 않나요?
어떻게 이런 실험을 했나
연구진은 이번 결과가 "똑똑한 도구에 합리적으로 일을 맡긴 것"으로 오해되지 않도록 실험을 설계했습니다. 질문은 영화 《Bend It Like Beckham》 속 팀 유니폼 색상처럼 AI가 자주 틀리는 시각적 디테일로 구성했고, 실제로 대부분의 질문에서 오답을 내는 AI 모델(Step 3.5 Flash)을 일부러 사용했습니다.
즉, "성능 좋은 AI에게 물어봐서 더 잘 맞혔다"는 이야기가 아니라, 틀린 답을 주는 AI에게조차 사람들이 자기 판단을 넘겨버렸다는 게 핵심입니다.
가장 우려스러운 대목: 원래 알던 것도 놓친다
더 심각한 건, 일부 참가자가 혼자였다면 정답을 맞힐 수 있었던 문제에서도 AI에게 물어본 뒤 일부러 오답을 선택했다는 점입니다. 잘못된 AI 조언이 기존에 갖고 있던 올바른 판단력까지 훼손해버린 셈이죠.
돈을 걸어도 소용없었다
혹시 "보상이 걸리면 사람들이 더 신중해지지 않을까?" 싶으실 텐데, 연구진이 금전적 보상을 도입해봤습니다. 결과는 다음과 같이 일부 개선되었지만,
- "모른다" 응답: 3% → 8%
- 정확도: 9% → 16%
AI가 없었을 때의 기준치(44%, 27%)에는 한참 못 미쳤습니다. 돈으로도 되돌릴 수 없는 습관의 변화가 생긴 겁니다.
"인지적 항복", 그리고 아이들에 대한 걱정
앞서 Wharton 연구진은 사람들이 틀린 AI 답변을 80% 비율로 그대로 수용하면서도 AI 없이 작업한 사람보다 더 높은 자신감을 보이는 현상을 **"인지적 항복(cognitive surrender)"**이라고 이름 붙인 바 있습니다.
이번 연구는 여기서 한 걸음 더 나아갑니다. 단순히 틀린 답을 신뢰하는 데 그치지 않고, AI를 쓸 수 있다는 사실 자체가 "내가 무엇을 모르는지 인식하는 습관"을 약화시킨다는 겁니다. 연구를 이끈 Capraro는 "모른다고 말할 수 있는 능력은 자기 지식의 한계를 아는 것이므로 인간에게 매우 중요하다"고 강조합니다.
특히 비판적 사고력이 아직 발달 중인 어린이와 학생들에게는 더 큰 우려 요인입니다. 실제로 Google의 AI 검색 개편이 링크 목록 대신 자신감 넘치는 AI 요약을 전면에 내세우자, Common Sense Media는 이를 학생들에게 "수용할 수 없는 위험"이라고 평가하기도 했습니다.
왜 이 이야기가 중요할까요
"모른다"고 답하지 않고 늘 그럴듯한 답을 내놓도록 설계된 AI 제품을 계속 쓰다 보면, 사람도 똑같은 행동 패턴을 학습할 수 있습니다. AI가 틀렸을 가능성을 항상 염두에 두고, 스스로 판단할 여지를 의식적으로 남겨두는 습관이 그 어느 때보다 중요해지는 이유입니다.