계량경제학 대가의 뼈아픈 실수?

“선형(Linear) 가정은 필요 없다!” vs “그게 바로 선형이야…”

A Modern Gauss-Markov Theorem by Bruce E. Hansen (Econometrica, 2022)

A Comment on “A Modern Gauss-Markov Theorem” by Benedikt M. Pötscher and David Preinerstorfer (Econometrica, 2024)

경제학 대학원생이라면 누구나 한 번쯤 들어 본 Bruce Hansen은 널리 쓰이는 Econometrics 교과서의 저자이다. 계량경제학계의 살아있는 전설인 그가 최근 학계 최고 권위지인 Econometrica에서 말년에 고생하고 있다.

훌륭한 발견을 해서가 아니라, 수학자들과 통계학자들에게 “이거 동어반복(Tautology) 아니냐”며 영혼까지 털렸기 때문이다. 도대체 대가에게 무슨 일이 있었던 걸까.

L을 떼고 싶었던 대가의 야심

우리가 학부나 대학원 첫 학기에 계량경제학을 배울 때 달달 외우는 정리가 있다. 바로 ‘가우스-마르코프 정리(Gauss-Markov Theorem)’. 최소제곱법(OLS)이 특정한 조건 하에서 BLUE(Best Linear Unbiased Estimator, 최우수 선형 불편추정량)가 된다는 아름다운 정리다.

그런데 Hansen 교수는 2022년 논문에서 아주 도발적인 주장을 던진다. “OLS가 참 좋은 추정량인 걸 증명할 때 굳이 추정량이 ‘선형(Linear)’이어야 한다는 촌스러운 제약 조건을 걸 필요가 없다! 선형 가정을 날려버려도 OLS는 여전히 최우수 불편추정량, 즉 BUE(Best Unbiased Estimator)다!”

오차항이 정규분포를 따르지 않는 아주 넓은 비모수적(non-parametric) 상황에서도, 선형이든 비선형이든 다 통틀어 OLS의 분산이 가장 작다는 혁명적인(?) 증명이었다.

팩트 폭행: “수학적으로 그게 선형입니다만”

하지만 이 야심 찬 논문은 곧바로 Pötscher를 비롯한 깐깐한 수학/통계학자들의 레이더에 걸렸다. 이들의 반박 논문(2024)은 매우 예리하고 자비가 없었다. (사실 문제가 있다는 건 논문 출판 이후에 바로 논의가 나오긴 했다. 엄밀하게 까는 데 시간이 걸린 거지.)

Hansen은 ‘선형성’을 가정하지 않았다고 뿌듯해했지만, 그가 증명을 위해 깐 밑밥이 문제였다. 그는 “아주 넓은 분포군 전체에서 ‘항상’ 불편성(Unbiasedness)을 만족해야 한다”는 빡빡한 조건을 걸었는데, 수학자들의 계산 결과 이렇게 광범위한 조건에서 항상 불편성을 유지할 수 있는 추정량은 수학적으로 ‘선형 추정량’밖에 없었다.

비유하자면 이런 거다. Hansen: “나는 식단에서 ‘고기’를 빼고 완벽한 햄버거 패티를 만들었다! (단, 소고기 100%와 동일한 단백질 구조와 육즙을 가진 무언가만 썼음)” 수학자들: “교수님, 그걸 세상 사람들은 고기라고 부르기로 했어요.”

결국 Hansen의 ‘새로운’ 가우스-마르코프 정리는 기존의 고전적인 정리와 수학적으로 완벽히 동일하며, 새로운 발견이 아니라 기존 결과를 다르게 포장한 것에 불과하다는 판정이 내려졌다.

“그래도 애들 가르치기엔 좋잖아요?”

학계의 룰은 냉정하다. 수학적 결함이 명백히 지적되었다면 깨끗하게 인정하거나, 논리적으로 재반박해야 한다. 그런데 2024년 반박(Reply) 지면에서 Hansen이 내세운 방어 논리가 약간 민망하다.

그는 비판자들의 수학적 지적을 일부 인정하면서도, 자신의 논문이 가지는 ‘교육적 가치(Pedagogical value)’를 내세웠다. “학생들한테 처음부터 ‘이건 선형일 때만 성립해’라고 억지스럽게 가르치는 것보다, 내 방식대로 넓은 의미에서 OLS의 정당성을 설명하는 게 직관적이고 교육적으로는 훨씬 유용하잖아?”

…

이코노메트리카는 경제학의 최고 저널일 뿐만 아니라, 이론적 엄밀함을 가장 수준높게 요구하는 저널이다. 교육적 가치가 있지만 새롭지는 않은 주장을 엄밀함이 생명인 Econometrica에 ‘수학적 신발견’으로 포장해 제출한 건 명백한 패착이었다. 아무리 의도가 좋아도 기저에 깔린 수학적 정의가 흔들린다면 그건 논문이 아니라 선형성을 다른 접근으로 설명하는 교재의 한 챕터로 남았어야 했다.

때로는 산전수전 다 겪은 대가들조차 ‘직관’과 ‘엄밀한 수학’ 사이에서 길을 잃고 억지를 부린다는 사실이, 논문 리젝에 고통받는 평범한 연구자들에게 묘한 위안(?)을 준다. 학문의 뼈대를 이루는 기본 가정들이 얼마나 무겁고 무서운 것인지 다시금 깨닫게 되는 재밌는 해프닝이다.