Гауссова нормализация переменных в МНК

При составлении матрицы нормальных уравнений:

https://geodesist.ru/threads/iteracionnyj-algoritm-konformnogo-preobrazovanija.85528/#post-972309

- очень часто возникает ситуация составления "плохой" (плохообусловленной) матрицы. Обращение такой матрицы стандартными средствами даёт плохой результат. Подобные случаи упоминались многократно, к сожалению навскидку ссылок привести не могу (надо копаться, а с местным поиском я подружиться так и не смог).

Для преодоления "плохости" матрицы нормальных уравнений "рекомендуют" использовать SVD. Но не всегда и не всем он доступен (в офисных пакетах его нет).

Но существует такая методика, как "Гауссова нормализация переменных" перед составлением нормальных уравнений:

https://geodesist.ru/threads/iteracionnyj-algoritm-konformnogo-preobrazovanija.85528/#post-972330

- позволяющая получать "неплохие" матрицы нормальных уравнений на тех же данных. Что в свою очередь, позволяет применять стандартные методы обращения матриц (включая офисные пакеты).

Слабая "освещённость" этой методики (не видел ни одной толковой статьи по этой теме) считаю диверсией. Если у кого-нибудь имеется соответствующий материал, будьте добры, окажите любезность, скиньте ссылочку.

Оффтоп

Модераторы! Поправьте название, пожалуйста. Опечатался. Cast @Qvinto

 

Несколько ремарок.
1. Идеальным средством ухода от плохой обусловленности матрицы нормальных уравнений параметрического способа уравнивания является использование коррелатноой формы МНК. Правда, надо понимать о каких измерениях и сетях идет речь. Вы ничего по этому поводу не сказали.
2. То , что вы называете конформным преобразованием по сути является решением задачи определения параметров преобразования координат двух систем координат. Если системы координат обычные для отечественной геодезии и топографии, то они по определению конформные, т.к. построены от ГСК, т.е в логике плоских прямоугольных координат в проекции Гаусса-Крюгера. Для перехода необходимо знать параметры плоского разворота и относительного смещения центра систем плюс относительное изменение масштаба, обусловленное различием в положении осевого меридиана рассматриваемых СК. Поэтому искать афиноры для таких систем - излишнее и совершенно никчемное усложнение.
3. Для решения задачи в контексте п.2 хорошим средством улучшения обусловленности матрицы нормальных уравнений является использование центрированных координат.
Успехов!

 

1. Гауссова нормализация не применима к коррелатноой форме МНК, чтоле?
2. Гауссова нормализация не содержит "центрирования" по мат. ожиданию, чтоле?
3. Только центрирование даёт на порядки худший результат, чем нормировка (отношение чисел обусловленности), при тех же осложнениях с дальнейшей обработкой (децентрализацией результата).

 

Ну почему же не 1, 2 и 3? Я говорю о соразмерности усложнения решения в зависимости от задачи определения параметров перехода. Ваши навороты с прибамбасами могут быть не сообразными с решением этой задачи. Только и всего.

 

Ну да! Это вот верно! Полностью соглашаюсь!

Но речь не о конкретной задаче (и чего Вы привязались к линейному конформному преобразованию, там нормализация играет ту же роль, что и централизация, матрица один чорт единичная), а о всех видах задач. О ВСЕХ!

В общем случае, нормализация даёт на порядки (НА ПОРЯДКИ!) менее плохой результат по соотношению чисел обусловленнности, чем простая центрировка, при тех же (ТЕХ ЖЕ!) сложностях в дальнейшей обработке (децентрировке).

PS: Но можно конечно замахнуться и назвать SVD простым.

 

Возможно, я не совсем понял смысл темы, на которую вы сослались. А говорить о ВСЕХ задачах - это вы круто замахнулись со всего плеча. Лично я воздержусь. У вас это диссертация, или ковырялки саморазвития?!
Матричные вычисления сейчас, при современных вычислительных возможностях и при наличии свободно доступных программных средств, на мой взгляд, вовсе не проблема. В исследовательском плане применения в геодезии - весьма интересно и полезно.
Кстати, говоря о возможном упрощении, или обходе проблемы обращения плохо обусловленных матриц смею напомнить рекуррентную схему решения задачи МНК. Первоначально формируется нормально обусловленная обратная матрица нормальных уравнений (ковариационная матрица), например по необходимым измерениям, а потом она обновляется по блокам, или даже отдельным измерениям. Задача обращения уходит в тень, но вычислений поболее будет. Но это, как я уже обмолвился, сейчас не проблема.

 

Проблема есть. Усложняет по полной. Даже сведущий может запутаться. Не вижу никаких преимуществ перед нормализацией (ни в плане простоты, ни в плане вычислений).

PS: Возникает также вопрос "плохого" начального приближения.

 

Не буду спорить, поскольку вижу, что вы уже перебрали какой-то набор вариантов решения. Понаблюдаю за вашими успехами. Не забудьте поделиться ими. Один заинтересованный наблюдатель у вас уже есть.
Мне довелось использовать отмеченные мною варианты регуляризации, а также технику выравнивания значений коэффициентов матрицы параметрических уравнений и стохастическую регуляризацию. Но решение было для конкретных случаев и не ВСЕохватными средствами. Вариантность подхода давала локальный успех при разумных затратах. Универсального метода я не нашел, да и не ставил задачи такого поиска.

 

Так уже всё давно поделено: https://github.com/Geo-Linux-Calculations/gnumeric-ols

 

Спасибо. Поделился, так поделился гнутыми разработками под линухами. Как-то не очень мне это помогло, интерес отбило и не убедило. Я то настроился на науку, публикации. А тут куча специфического софта. К этой куче комментарии нужны. Но лучше не сейчас.
Успехов!

 

Ещё один достойный пример применения Гауссовой нормировки: https://github.com/Geo-Linux-Calcul...preadsheets/conformaltrans/helmert3d.gnumeric - Преобразование Гельмерта с нахождением самих параметров без SVD.

Внимание! Таблица для Gnumeric ( http://gnumeric.org/ )! Реализация под Винду не переносит русских путей!

 

Пример применения Гауссовой нормализации переменных в виде таблицы MS Excel для решение задачи "Определение параметров Хельмерта для двух наборов координат": https://geodesist.ru/threads/obrabotka-xodov-v-credo-dat.2969/page-23#post-1033741

PS: Обычно используется не реализуемый в таблице SVD.