その一(愚直に)
cを複数直線の近傍点,uiを直線上のある点,viを直線の方向ベクトルとする.

複数直線の近傍点を求めるには,以下の式を最小化すればよい.
f(c,ki)=i∑∣∣c−(ui+kivi)∣∣2
上式を偏微分して解く.
dcdf=0dkidf=0⇔c=n1i∑n(ui+kivi)⇔ki=viTvicTvi−uiTvi
式(1)に式(2)を代入し,cについて解けば近傍点が求まる.
その二(少しお洒落に)
複数直線の近傍点cと直線の距離diは,以下の式で表すことができる.
di=∣∣c−ui∣∣sinθ=∣∣v×(c−ui)∣∣

複数直線の近傍点は,以下の式で表される.
c=arg mini∑di2
∑idi2をcの成分ごとに偏微分して解けば,近傍点が求まる.
参考文献
Point cloud to point cloud rigid transformations
Nearest approaches to multiple lines in n-dimensional space
Discussion