1935년 Physical Review 47호에 실린 아인슈타인, 포돌스키, 로젠의 논문 “물리적 실재에 대한 양자역학적 기술이 완전하다고 볼 수 있는가”에서 제기된 양자역학의 불완전한 기술방정식 주장에 대하여 같은 잡지, 같은 제목의 닐즈 보어의 반박 논문 사이의 논쟁 이후, 아인슈타인을 따르는 실재론 경향의 “숨겨진 변수”의 존재를 주장하는 측과 그 존재를 부정하는 주장 사이의 논쟁을 다룬 글이다. 폰노이만의 비분산자(dispersionsfree)의 상태를 부정하는 증명과 이를 보완하는 1963년의 Jauch와 Piron의 증명에 대하여 D. 보옴의 강한 존재증명의 대립은 물리세계의 실재성을 근원적으로 탐구하는 방법론적 모델이 된다.
I. 서론
뉴턴 세계의 기본구성체는 환산질량(reduced mass)이다. 환산질량은 기본적으로 수학적 량이며 시간에 의존됨이 없다. 인간으로서의 관찰자가 운동에 개입할 수 없으며, 엄격히 말해서 신도 개입할 수 없다. 세계 운동의 작은 편린도 원리적으로 미세오차를 허용하지 않으며 결정된 수학적 세계선(World line)을 따를 뿐이다.
불행히도 인간의 인식 안에서 뉴턴 세계의 이러한 결정론적 구조는 완전하게 포착되지 않는다. 단지 물리현상에 대한 예측가능성의 영역을 확보하려고 하는 시도만이 가능하다. 여기서 예측가능성의 의미는 앞 상태(state)와 뒤의 상태를 연결시킬 수 있는 라그랑지안(Lagrangian)이라는 수학적 기술식이 존재하며 그리고 그 해의 값이 하나라는 조건을 만족해야 한다는 점이다. 뉴턴역학은 결국 라그랑지안을 통해서 자연을 가역적 상태로서 기술하고자 한다. 완전한 지성은 “단 하나의 (라그랑지안이라는) 공식을 통해서 우주에서 가장 거대한 물체들과 가장 가벼운 원자들의 운동을 파악할 수 있다. 완전한 지성 앞에는 그 어느 것도 불확실한 것이 없으며, 미래와 과거가 똑같이 눈앞에 나타날 수 있다”.[] P.S.Laplace, A Philosophical Essay on Probabilities, (Dover,New York,1951), p.4.
결국 뉴턴은 신의 인식의 영역인 결정론적 세계와 인간인식의 영역인 예측가능성의 범위를 가역적 시간관을 통해서 연결시켰다. 반면 이 글의 목적은 신을 도입시키지 않으면서 결정론을 말하려는 아인슈타인의 물리적 실재론의 입장과, 그에 대비되는 양자론의 현상주의의 입장을 살피면서, 가능한 과학적 결정론의 스펙트럼을 조명하려는데 있다.
II. 상대론의 결정론과 양자론의 비결정론의 대립
뉴턴의 결정론은 바로 가역적 시간성에 의한 것이라고 말했다. 즉 시간의 선후에 따른 인과순서의 주어진 방향이 갖는 질적인 차이를 인정하지 않는다. 그러한 시간을 우리는 뉴턴 고유의 절대시간이라고 표현한다. 반면 아인슈타인은 동시성 개념을 통해서 뉴턴의 가역적 시간관을 거부하면서 상대적 시간관을 말했다. 그러나 그의 상대성이란 상이한 좌표계 사이의 상대성이며 시간 자체가 상대적으로 로렌쯔 변환하는 것으로 이해해서는 안 된다. 아인슈타인도 절대시간의 개념을 거부했지만, 기본적으로 세계를 총체적으로 설명할 수 있는 결정론적 방정식이 존재한다는 믿음을 굳게 갖고 있었다. 그러한 믿음은 세계의 실재성을 전제하는 결정론의 바탕 위에서 가능했다. 아인슈타인은 결정론과 비가역성을 연결시킴으로써 결정론의 근거를 과거 가역적 결정론자와 달리 형이상학 안에서 논의하는 것이 아니라, 자연학 안에서 찾으려 했다. 즉 수학적 결정론을 원래의 자연학적 결정론으로 전환하려 한 것이다. 경험적 시간인 비가역적 시간을 수용하면서 결정론을 고수하려는 것이 아인슈타인의 궁극적인 의도라고 보아도 좋다. 아인슈타인이 이러한 비가역적 시간관을 도입한 것은 당시 열역학이 등장하는 시기에서 필연적 이였다고 볼 수 있다.
맥스웰과 볼쯔만은 뉴턴의 필연성의 역학의 한계를 지적하면서, 물리학에 확률의 개념을 유도하였다. 열역학은 운동의 필연성을 운동의 확률로 대체한 것이다. 열역학은 더 이상 가역적 정력학으로 말할 수 없게 되었다. 그러나 더 근원적인 문제로 들어가면 상황은 달라진다. 즉 열역학의 확률은 근본적인 우연성과 비결정론을 말한 것이 아니라는 점이다.
뉴턴의 운동방정식은 자연계 중에서 관찰자가 문제삼으려는 두 개의 대상만을 분리시켜 보았으며 이를 이체문제라고(two-body-problems) 말한다. 천체의 다체-현상은 결코 라그랑지안 안으로 수용해낼 수 없었기 때문에, 닫힌 고립계를 조작한 결과가 바로 이체문제였다. 실제로 고전과학에서 이체화는 조작이라는 표현을 쓰는 것이 아니라 이상화(idealization)라는 표현으로 대치된다.
그러나 분자단위의 운동에서는 분자의 아보가도로의 엄청난 분자수를 실제로 이체문제화 할 수 없으며 따라서 그 사이의 결정론적 방정식을 만들어 낼 수 없었다. 결국은 개체운동의 기술을 포기하고 전체운동을 통계적으로 기술하는 작업만이 가능하였다. 이것이 바로 열역학의 탄생 이였다. 물론 자연과학의 중심줄기인 실재론의 전통에서 열역학의 통계적 작업은 그것이 비록 확률로 표현된다하더라도 대상세계의 결정론적 구조를 포기하는 것이 아님을 알아야 한다. 대상세계의 운동이 너무 복잡하기 때문에 기술적인 문제에서 확률을 도입했을 뿐이라고 보는 것이 실재론의 통념이다. 결국은 대상계의 실재는 원리적으로는 여전히 결정론의 범주에서 말할 수 있으며 단지 인간 인식능력의 한계로 말미암아 확률을 사용한다는 것이다. 결국은 뉴턴역학과 19세기 열역학 그리고 아인슈타인의 상대성이론 모두는 실재론의 범주 안에 있으며 기본적으로 결정론적 세계관에 바탕을 두고 있다.
그러나 막스 플랑크 이후 양자역학의 등장은 아주 색다른 자연관을 제시하였다. 양자 차원의 미시계에서는 확률 자체가 바로 자연의 진정한 모습이라고 보게 되었다. 가장 단순한 수소 원자의 들뜬 상태에서 안정 상태로 전이되는 과정에서 나타난 절대적인 우연성을 볼 때, 자연의 필연성은 더 이상 말해질 수 없게 되었고 우연성이 그 자체로 자연현상의 본질로 자리잡게 되었다.[] 양자론자는 어떤 물리계에 대한 예측을 원할 때 확률적 예측만을 기대한다. 일정 계를 설정하면 그 안에서 힐버트공간 안에서 파동함수라고 하는 초기 상태함수를 선택하게 되고, 이 파동함수는 그 계를 기술하는 것으로 본다. 이 계는 앙상블 E(ψ)의 형식을 취하며, 파동함수 ψ는 이 완전앙상블(entire ensemble)을 기술한다.
닐즈 보어(Niels Bohr)를 따르는 양자역학의 표준해석에 의하면 실재를 기술한다고 하는 두 물리량을 동시에 정확히 측정할 수 없으며 단지 관찰자가 측정을 원하는 측면만이 선택된다고 한다. 여기서 측정행위는 곧 관찰자의 비가역적 선택이 되고 만다. 양자론에 대한 인식론적 해석의 핵심은 측정 과정에서 나타나는 선택이며 이것을 파동함수의 감축(Reduktion)이라고 한다. 즉 측정은 전형적인 비가역성이다. 여기서 위상공간으로 설정된 여건설정공간(Konfigurationsraum)위에 놓여있는 확률파의 파동함수는 개별 입자의 상태를 기존의 뉴턴언어를 통해서 실제적으로 완전하게 기술할 수 있는지에 대해서 회의적이었다. 이 문제는 곧 미시의 양자 상태를 기술하는데 있어서 기존의 결정론적 방정식이 불가능하며, 동시에 그 대상계인 양자 상태 또한 결정론적 구조가 될 수 없다는 점을 직접적으로 시사한다.[] 이와같이 양자상태에 대한 실재론 논쟁을 결정론과 비결정론의 논쟁방식으로 바꾸어 논의할 수 있다. 그리고 이로부터 가능한 의미론적 테제를 찾아볼 수 있다. 물론 역학에서 결정론이라는 말을 자주 사용하고 있기는 하지만 그 내용은 철학적 결정론의 범주와 다르며 실제로는 인과성의 가능성에 관한 내용임을 주지해야 한다.
이후 양자역학과 상대성이론은 자연을 보는 관점에 있어서 서로 대립된 상황으로 전개되었다. 상대성이론의 결정론적 실재론은 우연현상처럼 보이는 것도 결국에 가서는 필연성으로 설명될 수 있고 또 설명되어야 한다는 입장을 고수한다.[] 물리학적 이론의 필요조건 1)실험적 사실과 일치 2)논리적으로 일관성이 있어야 하고 3)다른 설명과 단순하게 비교되어야 한다. 참조: Belinfante, A Survey of Hidden Variables Theories, p.38
그러한 입장을 뒷받침하는 것이 ‘숨겨진 변수이론’(Hidden Variables Theory)이론이다. 즉 우연처럼 보이는 현상 배후에 우리가 아직 알 수 없었던 결정론적 인과관계를 주는 어떤 변수가 숨겨져 있다는 주장이다. 우연과 필연의 문제는 그 변수를 찾아냈느냐 아니면 아직 찾아 내지 못 했는가의 문제일 뿐이라는 것이다. 숨겨진 변수이론이 정형화 된 것은 아인슈타인이 죽기 3년 전인 1952년 데이빗드 보옴의 논문을 통해서였지만 아인슈타인의 기본 사유구조와 일치한다.
1926년 이후 양자론자와 상대론자와의 대립논쟁이 계속되어 왔지만 상대론자 일반이 주장하는 숨겨진 변수는 물론 아직 발견되지 않았다. 그리고 양자역학의 비국소적 해석의 기술방식이 더 타당성 있는 것으로 실험증명 되었지만,[] Jongduck Choi, Die Moeglichkeit einer ontologischen Deutung der Quantenmechanik, (Giessen,1993), p.85
우연적 운동으로 보이는 자연 속에 숨겨진 질서가 내재되어 있을 것이라는 생각은 여전히 자연과학자의 마음속에 가장 크게 자리잡고 있는 것이 사실이다. 그러면 결정론을 가능케 하는 숨겨진 변수의 존재 가능성에 대한 논쟁을 살펴보기로 한다.
III.“숨겨진 변수”의 존재가능성
아인슈타인의 사유방식에 의하면 국소성의 원리를[] “국소적” 이라는 것은 각각의 개별 입자들의 임의의 위치(x)와 임의의 운동량(p)에 대한 측정이 그 입자 자체안에서 결정되어질 수 있음을 의미한다. 예를 들어 상태 S1이 공간적으로 떨어져 있는 상태 S2에 인과적 관계가 없는데도 불구하고 어떤영향을 미쳤다면 우리는 그들사이의 상관성을 비국소적 상관성이라고 부른다. 결국 비국소성은 우리의 상식과 어울릴 수 없으며 당연히 이상하고 비합리적인 관계로 이해될 수 있다.
포기하지 않은 상태에서도 양자역학을 이해 가능하도록 해석할 수 있거나 혹은 해석되게끔 만들어야 한다. 있어야 한다. 그러한 국소성의 원리를 충족시키고 그리고 결정론적 방정식으로 이 미시세계를 기술하기 위해서도 양자론의 파동함수에 포함되지 않은 그리고 지금까지는 실험적으로 발견되지 않은 어떤 변수를 지정해 주어야만 한다고 보았다. 따라서 그렇게 보완된 파동함수는 인간에 의한 측정가능성의 범위에 들어오는 상태변수를 부분적으로 포함해야만 한다. 아인슈타인이 보기에 양자론의 파동함수가 보여주는 비결정성은 자연의 본질적인 상태가 아니라고 한다. 단지 아직 알지 못하는 변수를 찾아내지 못한 결과 일뿐이다. 그래서 그는 양자론의 파동함수를 불완전한 기술방정식으로 여겼다. 그렇다면 미시세계의 운동을 기술하여 아마도 양자론의 불완전성을 해결하는 어떤 추가의 상태요소가 있을 지 모른다고 보았다. 이러한 요소를 “숨겨진 변수”라고 부른다.[] Muekenheim,W, "Das EPR-Paradoxon und die Unbestimmtheit der Realitat" in:Physikalische Blaetter 39,10(1983), p.332
만약 그러한 변수가 없다면 양자세계의 상호관계는 전적으로 우연운동에 속한다고 결정론자들은 본다. 물론 그들은 우연성을 물리학의 탐구영역에 집어넣을 수 없다. 아인슈타인의 말을 빌리면, “만약 소립자가 그러한 어떤 변수를 갖고 있다면, 물리학자는 그러한 모든 변수들을 파악하는 소립자에 대한 기술방정식을 찾아내야만 한다”[] Buechel, Der Bellsche Beweis, ZAW 8(1977),p.223
고 한다. 이러한 관점에서 본다면 양자론은 불완전한 이론이며, 개별입자의 운동 역학을 통해 보완되어야만 한다. 숨겨진 변수의 존재를 인정할 경우 임의의 물리적 대상의 상태는 파동함수를 통해서만이 아니라, 다른 어떤 변수들에 의해서 표현된다. 예를 들어 한 원자의 결집에너지와 같은 물리량은 파동함수 안의 변수를 통한 방식으로는 그 값을 정확하게 기술할 수 없다.
아인슈타인의 계승자들은 양자역학을 완전화 하기 위해 즉 국소성의 전제아래서 양자론에 추가적으로 숨겨진 변수의 개념을 도입했다고 볼 수 있다. 아인슈타인은 다음과 같이 쓰고있다: “따라서 파동함수가 물리적 실재에 대한 완전한 기술방식을 제공하지 못함을 보여 주었지만, 한편 그러한 완전한 기술방식이 과연 있는지 없는지의 질문을 열어놓아야 한다. 그러나 우리는 그러한 이론이 가능하다고 믿는다.”[] Einstein/Podolsky/Rosen, "Can Quantum Mechanical Description of Physical Reality be Considered Complete?" in: Physical Review 47(1935), p.780
그러나 아인슈타인은 숨겨진 변수 이론에 대해서도 양자론의 표준해석처럼 불만족하게 보았다. 왜냐하면 아인슈타인이 아니라 보옴(David Bohm)에 의해 처음으로 정식화된 숨겨진 변수 이론도 국소성의 원리를 위반하기 때문이었다. 아인슈타인에 의하면 숨겨진 변수는 무조건 국소성의 원리와 조화되어야만 한다. 따라서 숨겨진 변수가 존재한다 해도 그것이 비국소적이라면, 그것은 서로 떨어진 체계들 사이의 상호작용의 문제를 해결해 줄 수 없다고 보았다. 기본적으로 숨겨진 변수는 반드시 국소적이어야 한다는 조건이다. 이것이 바로 아인슈타인의 결정론의 기본입장이다.
IV.양자역학 안으로 결정론의 근거인 숨겨진 변수이론을 도입할 수 없다는 폰노이만의 주장
폰노이만은 양자역학의 형식론을 그 자체해석으로 다룬 처음의 사람이다. 그의 해석을 뷔그너(Wigner)가 부른 대로 보통 정통해석이라고 한다.[] Wigner는 측정문제를 가장 중요하다고 본 양자역학의 해석을 소위 정통해석이라고 했다.( Wigner, "The Problem of Measurement" in: Amer. J. Phys. 31 (1963), pp.6-15
이 정통해석은 코펜하겐 해석 위에서 이루어진 것이지만 그것과 같지 않다. 정통해석은 공리에서 구축되기 때문이다. 보어의 해석에서는 관찰에 의한 양자대상의 교란이 문제되었으나, 폰노이만은 대상과 측정장치 사이의 관계를 우선적으로 다루었다. 프리마(Hans Primas)는 보어와 폰노이만의 차이를 다음과 같이 쓰고있다: “우리는 양자역학에 대한 보어의 견해와 폰노이만의 견해 사이의 근본적인 차이를 강조해야만 한다. 보어에 따르면 측정장치와 분리될 수 있는 어떤 `미시체계’도 없다고 한다. 물론 측정되는 대상은 측정수단의 이론적 위상과 완전히 다르다. 반면에 폰노이만의 해석은 측정대상과 측정수단에 대해 동일한 이론적 위상을 부여한다. 두 체계 사이의 상호작용을 말하는 것은 의미가 있다. 보어의 언어로 볼 때 측정문제에 대해 말하는 것은 불가능하다. 그러나 폰노이만의 해석에서는 측정과정의 논의가 핵심과제이다.”[] Hans Primas, Chemistry,Quantum Mechanics and Reductionism, (Berlin,1983), p.113
양자역학에 대한 폰노이만 해석에 따르면 스핀 상태의 불확정성은 거시적 상태에도 적용될 수 있다고 본다. 여기서 문제가 되는 것은 양자대상의 상태와 측정장치의 거시적 상태 사이의 상관성을 드러내는 일이다. 측정장치에 의한 거시상태의 관찰은 대상의 양자상태에 대한 일의적인 역추론을 가능하게 한다. 폰노이만의 측정이론은 다음의 두 가지 상이한 상태변환을 비교하면서 논증된다.[] J.Von Neumann,Mathematische Grundlagen der Quantenmechanik, (Berlin,1932)
Max Jammer, The Philosophy of Quantum Mechanics,(1974), p.475
과정 1: 자동적 변환; 연속적이고 인과적 변환; 가역성; 슈뢰딩거 방정식을 따른다.
과정 2: 측정을 통한 임의적 변환; 불연속적이고 비인과적, 그리고 순간적 변환; 비가역성; 파동군의 전환(Reduktion)
측정과정에 대한 드리슈너(Michael Drischner)의 분석에 따라 상태 ψ1 와 ψ2 그리고 두 상태 사이에서 결정되는 측정장치와의 결과상태 φ1 와 φ2 로 전체상태를 기술해보자. 대상과 측정장치 사이의 상호작용은 우선 대상이 상태 ψ1 일 때, 전체계는 상태 ψ1 * φ1 로 되며, 대상이 상태 ψ2 일 때 전체계는 상태 ψ2 * φ2 로 된다. 그러면 대상이 αψ1 + βψ2 일 때 (여기서 ∣α∣2 + ∣β∣2 = 1 ), 전체계의 상태는 다음과 같다:
Ψ = αψ1 ․ φ1 + βψ2 ․ φ2
상태 αψ1 + βψ2 는 상태 ψ1는 ∣α∣2 의 확률값을 갖고 ψ2는 ∣β∣2 의 확률값을 갖는 두 상태함수의 측정 전의 전체 상태함수를 의미한다. 그리고 측정 후의 결과 상태는 ∣α∣2 의 확률값을 갖는 ψ1 ․ φ1 이거나 ∣β∣2 의 확률값을 갖는 ψ2 ․ φ2 의 상태이다. 전체 결과상태
Ψ = αψ1 ․ φ1 + βψ2 ․ φ2 는 파속(wellenpakets)의 붕괴를 기술한다. 그런데 측정 전에 측정대상의 상태값은 측정대상의 통계적 작용자를 통해서 아래와 같이 기술된다.
ΩI = ∣α∣2 Ρφ1 + ∣β∣2 Ρφ2
그리고 측정전의 측정수단의 상태값은 측정수단에 대한 통계적 작용자를 통해서 아래와 같이 기술된다.
ΩII = ∣α∣2 Ρψ1 + ∣β∣2 Ρψ2
여기서 실제로는 ΩI * ΩII = Ψ = αψ1 ․ φ1 + βψ2 ․ φ2 이 된다.
닐즈 보어의 코펜하겐 해석에서는 실제로 ΩI 은 대상에 대한 값이고 ΩII 는 측정자에 대한 값으로 고정되었다. 그러나 폰노이만에 있어서 ΩII 는 의식을 지닌 측정자로 고정되는 것이 아니라 임의의 측정수단이 된다. 그러므로 인간도 측정수단의 한 편일 수 있다. Ψ의 전체상태를 측정대상의 상태 I 와 측정수단의 상태 II 로 나누어 본다면 각 부분 상태는 앞에서처럼 통계적 작용자 ΩI 와 ΩII 로 기술된다. 즉 전체상태는 대상상태와 측정수단의 상태 사이의 상호작용된 상태를 기술한 것이다. 여기서 상태 II의 범위를 어떻게 결정할 것인지는 매우 임의적이다.상태Ⅰ과 II의 범위를 결정하는 것을 폰노이만은 ‘절단’(Schnitt)이라는 표현을 사용하였다. 우리는 어디에다 절단을 하느냐에 따라서 측정수단 II의 상태를 정할 수 있다. 폰노이만의 말을 인용한다. “수은주의 눈금으로 할 것인가, 온도계측기의 스칼라 량으로 할 것인가, 망막의 레티나로 할 것인가 아니면 우리의 두뇌구조로 할 것 인가처럼 어디 까지를 경계 지워 생각해야 한다. 어쨌든 관찰자의 어느 부분에 의해 지각되어야 한다. 결국 우리는 “항상 세계를 관찰되는 체계와 관찰하는 체계의 두 부분으로 나누고 있다.”[] Von Neumann,J.: Mathematiscche Grundlagen der Quantenmechanik. Berlin,1932, Kap.VI
관찰하는 체계 안에 관찰자로서의 인간과 관찰수단이 함께 들어오기도 하며 관찰도구가 관찰되는 체계로 될 수도 있다. 측정과정을 기술하는 데 있어서 ‘절단’의 역할은 크지만 절단의 선을 결정하는 주어진 메카니즘은 없다. 따라서 관찰대상의 고립된 체계를 인정하지 않는다. “측정에 있어서 대상체계 S 를 그 자체만으로 간주할 수 없다. 그리고 측정장치 M 과의 상호작용을 파악해 내기 위하여 대상과 측정도구의 결합체계 (S + M) 을 탐구해야만 한다. 물론 측정이론이 (S + M) 의 합의 상태를 고려해야 한다. 그러나 S의 상태가 어떻게 M 의 상태의 어떤 성질과 상관되는지 여전히 남는 문제이다.”[] 같은 책, S.187
우리는 양자역학이 대상체계에만 적용되고 측정도구에는 적용되지 않는다고 말할 수 없다. 다시 말해서 체계 사이의 상호작용을 인정한다는 점과 관찰체계와 피관찰체계 사이의 차이가 대부분은 임의적이라는 점에 대한 확신을 갖고 그의 논증은 출발한다. 여기서 체계 사이의 경계가 임의적이라는 논증 위에서 숨겨진 변수의 존재를 부정하는 논증으로 이어진다.
양자역학의 확률론이 옳다는 것을 받아들인다면 당연히 양자역학을 인과율의 범주에서 말할 수 없게 된다. 폰노이만은 양자역학의 형식론에서 숨겨진 변수가 있을 수 없다는 것을 증명하였다.
한 입자의 스핀값에 대해 n번 측정은 아래와 같은 각각의 파동함수 값에 의존될 것이다.
A = a1, a2, a3,...... an
그리고 그 가관찰량 A에 대한 n번의 결과치는
A2 = a12, a22, a32,...... an2
여기서 결과치 a1, a2, a3,...... an 가 숨겨진 변수 λ에 의해 결정된다고 하면 즉 숨겨진 변수의 존재를 인정한다면 다음과 같은 표현식이 된다.