AI가 밝혀낸 인간 의사결정의 민낯: 우리는 왜 비합리적인 선택을 할까?

인간은 정말 '합리적'일까?

사람과 동물의 의사결정 과정을 설명하기 위해 오랫동안 다양한 이론이 등장했습니다. 그 중 가장 대표적인 것이 베이지안 추론과 강화학습(Reinforcement Learning) 모델입니다. 이들은 사람들이 과거의 경험에서 얻은 정보를 바탕으로 최적의 선택을 한다는 가정에 기반하고 있습니다.

 

하지만 실제 행동을 보면 항상 합리적이거나 최적의 선택만을 하지는 않습니다. 그럼에도 기존 모델들은 이 비합리성을 충분히 설명하지 못하고 있었습니다. 이번 연구에서는 이 질문에 새로운 접근법을 적용했습니다. 즉, "인간은 실제로 어떻게 학습하고 선택하는가?"에 초점을 맞춘 것입니다.

---

작은 신경망이 밝힌 진짜 의사결정 전략

연구진은 인간과 다양한 동물의 보상 학습 데이터를 수집하고, 단 1~4개의 노드로 구성된 작은 순환신경망(RNN)을 훈련시켰습니다. 그 결과, 작은 RNN이 기존 인지모델보다 훨씬 더 실제 선택을 잘 예측할 수 있음을 확인했습니다.

 

동물 실험에서 작은 RNN의 성능

작은 RNN의 또 다른 강점은 해석 가능성입니다. 연구진은 신경망의 내부를 동역학적 시스템 해석법으로 분석했습니다. 그 결과, 기존 이론들이 놓치고 있던 몇 가지 특징적인 전략들이 발견되었습니다.

1. 상태 의존적 학습률: 학습의 속도가 항상 일정하지 않고, 현재의 선택 선호도에 따라 조절됩니다.
2. 상태 의존적 반복성: 같은 선택을 반복하려는 경향이 있지만, 그 강도가 상태에 따라 달라집니다.
3. 보상 의존적 편향: 특정 보상이 주어진 후 특정 선택이 더욱 강화됩니다.

이러한 전략은 과거의 인지모델이 놓치고 있던 인간과 동물의 '비합리적' 행동의 핵심 패턴을 잘 설명합니다.

---

인간 데이터로 확장: 더 복잡한 선택의 메커니즘

인간 실험에서는 데이터의 양이 제한적이기 때문에, 연구진은 지식 증류(Knowledge Distillation) 기법을 도입했습니다. 이는 대규모 데이터로 학습한 '교사' 신경망의 지식을 개별 '학생' 신경망에 전달하여 적은 데이터에서도 높은 예측력을 얻는 방법입니다.

 

지식 증류를 통한 인간 실험 데이터 예측 성능

이를 통해 인간의 복잡한 선택 구조도 효과적으로 설명할 수 있었으며, 인간의 인지적 복잡성이 높은 행동 차원(dimensionality)을 필요로 한다는 사실도 확인할 수 있었습니다.

---

인간과 AI의 전략 비교: AI도 비합리한가?

또한 연구진은 보상을 최대화하도록 훈련된 AI 에이전트의 선택 전략도 분석했습니다. AI가 실제로 어떤 전략을 사용하는지를 시각화해 보니, AI 역시 Bayesian 전략을 닮았지만, 미묘하게 다른 '과거 입력의 역사 효과'를 보였습니다.

 

메타 강화학습 AI의 전략 해석

이것은 인간과 AI 모두가 표면적으로 비슷해 보이는 선택을 하지만, 그 내부 메커니즘은 상당히 다를 수 있음을 시사합니다.

---

인간의 비합리성도 '학습된 전략'이다

이 연구는 인간과 동물의 의사결정이 기존 이론에서 설명하는 것보다 훨씬 더 다양하고, 유연하며, 상황 의존적인 전략을 따른다는 사실을 보여주었습니다. 우리는 완벽히 합리적이지 않지만, 그 '비합리성조차 환경에 적응하며 학습된 것'입니다.

 

향후 이 접근법은 정신질환, 인지 기능 저하, 개인 맞춤형 치료에 적용될 가능성이 있으며, 인간과 AI의 선택 전략을 보다 정밀하게 비교하는 데도 큰 기여를 할 것입니다.

---

한줄평

"비합리적이라 생각했던 우리의 선택도 사실은 학습의 산물이었다."

 

참고문헌 : DOI: 10.1038/s41586-025-09142-4