К сожалению нет времени тщательно анализировать, могу сказать только то что в данном примере "нулевым" циклом на мой взгляд надо считать 2 цикл. В нем на мой взгляд более точно определен 2 пункт. Связка 3-1 во всех циклах плохо определяется.
Мне кажется здесь нужно использовать средние. Среднюю плоскость и средний вектор. Я попробовал это изобразить в Вашем файле
По формулам из вышеупомянутого учебника Г.П.Левчук, В.Е.Новак, В.Г.Конусов «Прикладная геодезия основные методы и принципы инженерно-геодезических работ» и «Руководства по наблюдениям за деформациями оснований и фундаментов зданий и сооружений» попробовал обсчитать контрольный пример из «Руководства…». Но что-то не получается. Часть опечаток в учебнике нашёл, но, по-видимому, не все. А может у меня в заложенных в «Excel» формулах ошибки. Кто-нибудь считал этот пример? Получалось? Может есть ещё где-нибудь этот пример? В прикреплённых файлах страницы учебника и «Руководства…», а также мои расчёты. Циклы на листах 1, 2 и 3. Расчеты на листе «Обработка».
Читаем у Левчука Г.П. и др. «Прикладная геодезия. Основные методы и принципы инженерно-геодезических работ» (1981): В то же время в «Руководстве по наблюдениям за деформациями оснований и фундаментов зданий и сооружений»: По доброму старому "ТМОГИ" учили, как у Г.Левчука. Значит в «Руководстве…» ошибка? Если это так, то весьма распространённая, т.к. в Интернете часто и густо именно без -1. Кто прав?