距離を求めたい２点の座標をそれぞれ(λ1,φ1), (λ2,φ2)とする。またλは経度、φは緯度を表し、２点間の座標の変位を(Δλ, Δφ)とする。

緯度方向の変位Δyの計算

　地球を完全な球体と仮定すれば、緯度の変化に対する円弧の長さとなる。

　地球の半径として赤道半径A=6378137mを使用すると、Δy = AΔφとなる。

経度方向の変化Δxの計算

　経度の変化に対する円弧の長さとなるが、地球は球体であるため緯度により円の半径が異なる。これは緯線に沿って地球を輪切りにした場合、その切り口の半径は緯度の余弦に比例することになる。したがってΔx = AΔλcosφ1で求められる。

　上式ではφ1を使用しているが、φ2としても大きな差は無い。

ΔxとΔyが求まれば、２点間の距離Lは三平方の定理から、２乗の和の平方根で求める。

また方位角θはΔy/Δxの逆正接で求めることができる。このとき方位角の基準は真東の方角を0度とする。

注意