페르마의 원리를 수학의 변분법으로 체계화할 수 있다. 이는 공간에서의 굴절률이 $n(\mathbf{r})$처럼 일반적인 함수형태로 분포되어 있을 때 특히 유용하다. 광선의 경로 $\mathbf{r}$를 따라갈 때 소요되는 시간은 \[ t = \int \frac{ds}{c/n(\mathbf{r})} = \frac{1}{c} \int n(\mathbf{r}) ds \] 이다. 여기서 $ds$는 경로를 따라가는 거리이므로 $n(\mathbf{r}) ds$는 빛이 느끼는 거리, 즉 광경로길이(optical path length; OPL)이다. (OPL은 매질에서 어떤 구간을 빛이 진행할 때 걸리는 시간 동안 $c$의 속도로 진행하는 거리로 환산한 것으로 물리적인 거리에서 그 지점의 굴절률을 곱한 값이다) 페르마의 원리는 윗 식의 적분값이 최소가 되는 경로를 찾는 문제가 되어 변분법을 적용할 수 있게 된다. 즉 \[ \begin{equation} \label{eq1} \delta \int n(\mathbf{r}) ds = 0. \end{equation} \] 이다.
신기루 - 대기에서의 광선의 진행
대기는 높이에 따라 온도가 다른 층을 형성하고 있다. 온도가 높으면 밀도가 작아지고, 이에 따라 굴절률도 작아진다. 보통의 경우에는 높이 올라갈수록 온도가 낮아져서 굴절률도 점점 커지지만 지표면이 얼어붙어서 온도가 낮아지면 온도분포가 역전되기도 한다. 이처럼 굴절률이 고도 $y$에 따라 $n(y)$의 함수형태로 변한다고 하는 비교적 단순한 상황에 대해 \eqref{eq1} 식을 적용해 보자. 진입하는 광선이 놓인 면의 수평방향을 $x$, 수직방향을 $y$로 하면 광선의 경로는 $x(y)$나 $y(x)$로 묘사할 수 있다. \[ ds = \sqrt{dx^2 + dy^2} = \sqrt{1 + y'^2} dx = \sqrt{1 + x'^2} dy \] 이므로, \eqref{eq1}은 \[ \delta \int n(y) \sqrt{1 + y'^2} dx = \delta \int n(y) \sqrt{1 + x'^2} dy = 0 \] 이다. 이처럼 $x$와 $y$ 각각을 변분을 적용하는 파라미터로 볼 수 있지만 여기서는 $y$를 파라미터로 보고 변분법을 적용하는 것이 더 쉽다. 이는 적분함수, 즉 $F(x, x'; y) = n(y) \sqrt{1 + x'^2}$가 $x$에 의존하지 않기 때문이다. 따라서 오일러-라그랑쥬 방정식(Euler-Lagrange equation)이 \[ \frac{d}{dy} \left( \frac{\partial F}{\partial x'} \right) = 0 \] 이므로 이의 해는 다음 값이 $y$에 무관하게 일정한 값을 가진다. \[ \frac{\partial F}{\partial x'} = n(y) \frac{x'}{\sqrt{1 + x'^2}} = k. \] 광선이 수직축에서 기울어진 각도를 $\theta~$라 하면 $x' = \tan \theta~$이다. \[ \frac{x'}{\sqrt{1 + x'^2}} = \frac{\tan \theta}{\sqrt{1 + \tan^2 \theta}} = \sin \theta \] 을 이용하면 \[ \begin{equation} \label{eq1p} n(y) \sin \theta = k \end{equation} \] 를 만족한다. 즉 광선의 전 경로를 통해서 $n \sin \theta~$가 일정한 값으로 유지된다. 대기를 매우 얇은 수평의 층으로 나누어 이 층의 굴절률이 일정하다고 보고 스넬의 법칙을 적용하여 이 관계를 확인할 수도 있다. 오직 광선이 향하는 각도의 변화에만 관심이 있다면 진입한 지점의 굴절률과 특정한 지점의 굴절률의 비로서 이를 계산할 수 있을 것이다.
아래 그림은 넓은 사막이나 초원에서 대기의 온도차에 의한 굴절률 차이 때문에 광선이 서서히 꺾여서 곡선을 그리며 진행하는 것을 보여준다. 굴절률은 $y$에 따라 선형으로 변하여 처음에는 지표면의 굴절률이 1이고 화면의 상단이 1.2로 주었고, '모드 변경'을 선택하면 반대로 된다.
sim
신기루_ 대기 중에서 온도차에 의한 공기의 굴절률의 연속적인 변화에 따라 광선이 곡선을 그리면서 나아간다. 처음에 주어지는 상황은 지상에서 올라갈수록 온도가 낮아져서 빛이 아래쪽으로 볼록하게 휘어진다. 반면에 '모드 변경'을 체크하면 반대로 위쪽의 온도가 높다. 여기서는 굴절률이 고도에 따라 선형으로 변하는 것으로 하였으며, 또한 효과를 잘 볼 수 있도록 굴절률이 $1 \sim 1.2~$의 범위로 실제보다 크게 변하는 것으로 하였다.
위 그림이 처음 나타날 때는 보통의 대기에서처럼 위쪽으로 올라갈수록 온도가 낮아져서 굴절률은 커지는 상황이다. 이는 물체의 실제 위치보다 아래에 상이 나타난다. 예를 들어 낮에 사막이 태양열로 매우 높이져서 고도에 따른 온도 차이가 커지면 마치 멀리 호수가 있는 것처럼 보이는 데 이는 하늘의 상이다. 이처럼 실제 존재하지 않는 위치에서 물체가 있는 것처럼 나타나는 환영을 신기루(mirage)라 한다. 사막의 예는 저위 신기루(inferior mirage)라 한다. 반면에 위 그림에서 '모드 변경'을 선택하면 이와 반대의 상황으로 기온이 역전된 경우이다. 이는 흔하게 일어나지는 않지만 이렇게 되면 밀도가 높은 공기가 아래에 있으므로 대류가 일어나지 않아서 대기가 보다 안정된 상태를 유지하는 데 극지방 빙하 평원에서 관찰된다. 이런 신기루를 고위 신기루(superior mirage)라 한다.
일반적인 굴절률 분포에서의 광선의 진행
이제 일반적인 굴절률 분포에서 광선이 진행하는 경로를 변분법으로 유도하자. 공간의 굴절률 분포를 $n(x, y, z)$ 처럼 $x, y, z$에 대해 분리해서 표현하고, 광경로를 따라가는 좌표를 $x(\tau), y(\tau), z(\tau)$와 같이 임의의 파라미터 $\tau$의 함수로 나타내자. 앞의 적분을 다음 관계를 이용해서 $d\tau$에 대한 것으로 변수변환한다. \[ \begin{equation} \label{eq2} ds = \sqrt{dx^2 + dy^2 + dz^2} = \sqrt{\left( \frac{dx}{d\tau}\right)^2 + \left( \frac{dy}{d\tau}\right)^2 + \left( \frac{dz}{d\tau}\right)^2} ~ d\tau = \sqrt{x'^2 + y'^2 + z'^2} ~d\tau \end{equation} \] 여기서 $x', y', z'$은 각각 $\tau$에 대한 미분이다. 이제 앞의 \ref{eq1} 식은 \[ \delta \int \left[ n(x,y,z) \sqrt{x'^2 + y'^2 + z'^2} ~ \right] d\tau = 0 \] 으로 독립적인 세 함수 $x(\tau), y(\tau), z(\tau)$에 대해 변분법을 적용할 수 있는 형태가 되었다. 여기서 $[\cdots]$의 함수가 변분법의 모함수 $F(x, y, z, x', y', z'; \tau)$이다. 우선 $x(\tau)$에 대해 오일러-라그랑쥬 방정식을 쓰면 \[ \frac{\partial n(x,y,z)}{\partial x} \sqrt{x'^2 + y'^2 + z'^2} - \frac{d}{d\tau} \left[ n(x,y,z) \frac{1}{\sqrt{x'^2 + y'^2 + z'^2} } \frac{dx}{d\tau} \right] = 0 \] 이고, \eqref{eq2} 식으로 $\tau$의 미분을 $s$의 미분으로 변환하면, \[ \frac{d}{ds} \left[n(x,y,z) \frac{dx}{ds} \right] = \frac{\partial n(x,y,z)}{\partial x} \] 이 된다. $x, y, z$의 세 식을 벡터 형식으로 정리하면, \[ \begin{equation} \label{eq3} \frac{d}{ds} \left[ n(\mathbf{r}) \frac{d\mathbf{r} }{ds} \right] = \nabla n(\mathbf{r}) \end{equation} \] 이 된다.