Глобализованный кусочный метод Левенберга–Марквардта с процедурой для предотвращения сходимости к нестационарным точкам

Современные версии метода Левенберга–Марквардта для уравнений с ограничениями обладают сильными свойствами локальной сверхлинейной сходимости, допускающими возможную неизолированность решений и возможную негладкость уравнений. Недавно был разработан соответствующий глобальной сходящийся вариант алгоритма для кусочно-гладкого случая, основанный на одномерном поиске для квадрата невязки в евклидовой норме. Для этого алгоритма была показана глобальная сходимость к стационарным точкам для какого-то активного гладкого кусочного отображения, причем примеры показывают, что установить более сильные свойства глобальной сходимости для этого алгоритма без дальнейших его модификаций невозможно. В этой статье разрабатывается такая модификация глобализованного кусочного метода Левенберга–Марквардта, позволяющая избегать нежелательных предельных точек, тем самым обеспечивая желаемое свойство B-стационарности предельных точек для задачи минимизации квадрата невязки исходного уравнения в евклидовой норме, на множестве, задаваемом ограничениями. Конструкция состоит в идентификации гладких кусочных отображений, активных в потенциальных предельных точках, посредством использования подходящей оценки расстояния для активного гладкого кусочного отображения, используемого на текущей итерации, с последующим переключением, при необходимости, на более перспективное идентифицированное кусочное отображение. Устанавливаются глобальная сходимость к B-стационарным точкам и асимптотическая сверхлинейная скорость сходимости, где последнее также основано на подходящей оценке расстояния, но в этом случае до решений исходного уравнения с ограничениями.

кусочно-гладкое уравнение, уравнение с ограничением, кусочный метод Левенберга–Марквардта, глобальная сходимость, сверхлинейная сходимость

1. A. Fischer, A.F. Izmailov, M.V. Solodov, "The Levenberg-Marquardt method: an overview of modern convergence theories and more", Computational Optimization and Applications, 89:1 (2024), 33-67.

2. A.F. Izmailov, E.I. Uskov, Z. Yan, "The piecewise Levenberg-Marquardt method", Advances in System Sciences and Applications, 24:1 (2024), 29-39.

3. A.F. Izmailov, E.I. Uskov, Z. Yan, "Globalization of convergence of the constrained piecewise Levenberg-Marquardt method", Optimization Methods and Software, 40:2 (2025), 243-265.

4. A. Fischer, M. Herrich, A.F. Izmailov, M.V. Solodov, "Convergence conditions for Newton-type methods applied to complementarity systems with nonisolated solutions", Computational Optimization and Applications, 63:2 (2016), 425-459.

5. A. Fischer, M. Herrich, A.F. Izmailov, W. Scheck, M.V. Solodov, "A globally convergent LP-Newton method for piecewise smooth constrained equations: escaping nonstationary accumulation points", Computational Optimization and Applications, 69:2 (2018), 325-349.

6. A. Fischer, M. Herrich, A.F. Izmailov, M.V. Solodov, "A globally convergent LP-Newton method", SIAM J. on Optimization, 26 (2016), 2012-2033.

7. A.F. Izmailov, M.V. Solodov, Newton-Type Methods for Optimization and Variational Problems, Springer Series in Operations Research and Financial Engineering, Springer, Cham, 2014.

8. F. Facchinei, J.-S. Pang, Finite-Dimensional Variational Inequalities and Complementarity Problems., Springer-Verlag, New York, 2003.

9. R. Behling, A. Fischer, "A unified local convergence analysis of inexact constrained Levenberg-Marquardt methods", Optimization Letters, 6 (2012), 927-940.

10. A. Fischer, "Local behavior of an iterative framework for generalized equations with nonisolated solutions", Mathematical Programming, 94 (2002), 91-124.