Решение алгебраических уравнений методом ньютона

Метод Ньютона

Инструкция . Введите выражение F(x) , нажмите Далее . Полученное решение сохраняется в файле Word . Также создается шаблон решения в Excel .

• Решение онлайн
• Видеоинструкция
• Оформление Word

Правила ввода функции, заданной в явном виде

2. Примеры правильного написания F(x) :
   1. 10•x•e 2x = 10*x*exp(2*x)
   2. x•e -x +cos(3x) = x*exp(-x)+cos(3*x)
   3. x 3 -x 2 +3 = x^3-x^2+3
   4. Выражение 0.9*x=sin(x)+1 необходимо преобразовать к виду: sin(x)+1-0.9*x . Аналогично, x^2-7=5-3x к виду x^2+3x-12 .

   Пусть дано уравнение f(x)=0 , где f(x) определено и непрерывно в некотором конечном или бесконечном интервале a ≤ x ≤ b . Всякое значение ξ, обращающее функцию f(x) в нуль, то есть такое, что f(ξ)=0 называется корнем уравнения или нулем функции f(x) . Число ξ называется корнем k -ой кратности, если при x = ξ вместе с функцией f(x) обращаются в нуль ее производные до (k-1) порядка включительно: f(ξ)=f’(ξ)= … =f k-1 (ξ) = 0 . Однократный корень называется простым.
   Приближенное нахождение корней уравнения складывается из двух этапов:

   1. Отделение корней, то есть установление интервалов [α_i,β_i] , в которых содержится один корень уравнения.
      1. f(a)•f(b) , т.е. значения функции на его концах имеют противоположные знаки.
      2. f’(x) сохраняет постоянный знак, т.е. функция монотонна (эти два условия достаточны, но НЕ необходимы) для единственности корня на искомом отрезке).
      3. f”(x) сохраняет постоянный знак, т.е. функция выпукла вверх, либо – вниз.
   2. Уточнение приближенных корней, то есть доведение их до заданной точности.

   Геометрическая интерпретация метода Ньютона (метод касательных)

   Критерий завершения итерационного процесса имеет вид

   Метод Ньютона

   Этот онлайн калькулятор ищет корень (нуль) заданной функции, используя метод Ньютона (также известный как метод касательных)

   Этот онлайн калькулятор применяет метод Ньютона (также известный как метод касательных) используя калькулятор производных для получения аналитической формулы производной заданной функции (метод Ньютона требует вычисления производной). Под калькулятором можно прочитать краткое описание метода.

   

   Метод Ньютона

   Метод Ньютона 1

   Метод Ньютона, алгоритм Ньютона (также известный как метод касательных) — это итерационный численный метод нахождения корня (нуля) заданной функции. Метод был впервые предложен английским физиком, математиком и астрономом Исааком Ньютоном (1643—1727). Поиск решения осуществляется путём построения последовательных приближений и основан на принципах простой итерации.

   Основная идея метода заключается в следующем: задаётся начальное приближение вблизи предположительного корня, после чего строится касательная к графику исследуемой функции в точке приближения, для которой находится пересечение с осью абсцисс. Эта точка берётся в качестве следующего приближения. Далее процесс повторяется, пока не будет достигнута необходимая точность.

   Уравнение касательной к графику функции выглядит следующим образом:
   ,
   где — тангенс угла пересечения касательной с осью абсцисс.

   Тангенс угла пересечения касательной с осью абсцисс, — не что иное, как значение производной в точке .
   С учетом того факта, что в точке пересечения с осью абсцисс значение y равно нулю, можно записать следующее выражение для нахождения точки пересечения (следующей точки приближения):

   Метод Ньютона является очень мощным методом поиска корней функции, так как имеет квадратичную скорость сходимости — количество значащих цифр примерно удваивается с каждым шагом итерации, однако существуют и ограничения, затрудняющие его применение. Так, например, если начальное приближение недостаточно близко к решению, то метод может не сойтись, если производная не непрерывна в точке корня, то метод может расходиться в любой окрестности корня, если не существует вторая производная в точке корня, то скорость сходимости метода может быть заметно снижена, если производная в точке корня равна нулю, то скорость сходимости не будет квадратичной, а сам метод может преждевременно прекратить поиск, и дать неверное для заданной точности приближение.

   Теорема Канторовича дает следующие условия применимости метода для поиска корней функции:

   1. функция должна быть ограничена;
   2. функция должна быть гладкой, дважды дифференцируемой;
   3. её первая производная f'(x) равномерно отделена от нуля;
   4. её вторая производная f»(x) должна быть равномерно ограничена.

   Нелинейные системы и уравнения

   В более общем случае мы имеем не одно уравнение (1), а систему нелинейных уравнений $$ \begin \tag <2>f_i(x_1, x_2, \ldots, x_n) = 0, \quad i = 1, 2, \ldots n. \end $$ Обозначим через \( \mathbf = (x_1, x_2, \ldots, x_n) \) вектор неизвестных и определим вектор-функцию \( \mathbf(\mathbf) = (f_1(\mathbf), f_2(\mathbf), \ldots, f_n(\mathbf)) \). Тогда система (2) записывается в виде $$ \begin \tag <3>\mathbf(\mathbf) = 0. \end $$ Частным случаем (3) является уравнение (1) (\( n = 1 \)). Второй пример (3) — система линейных алгебраических уравнений, когда \( \mathbf (\mathbf) = A \mathbf — \mathbf \).

   Метод Ньютона

   Решение нелинейных уравнений

   При итерационном решении уравнений (1), (3) задается некоторое начальное приближение, достаточно близкое к искомому решению \( x^* \). В одношаговых итерационных методах новое приближение \( x_ \) определяется по предыдущему приближению \( x_k \). Говорят, что итерационный метод сходится с линейной скоростью, если \( x_ — x^* = O(x_k — x^*) \) и итерационный метод имеет квадратичную сходимость, если \( x_ — x^* = O(x_k — x^*)^2 \).

   В итерационном методе Ньютона (методе касательных) для нового приближения имеем $$ \begin \tag <4>x_ = x_k + \frac, \quad k = 0, 1, \ldots, \end $$

   Вычисления по (4) проводятся до тех пор, пока \( f(x_k) \) не станет близким к нулю. Более точно, до тех пор, пока \( |f_(x_k)| > \varepsilon \), где \( \varepsilon \) — малая величина.

   Простейшая реализация метода Ньютона может выглядеть следующим образом:

   Чтобы найти корень уравнения \( x^2 = 9 \) необходимо реализовать функции

   Данная функция хорошо работает для приведенного примера. Однако, в общем случае могут возникать некоторые ошибки, которые нужно отлавливать. Например: пусть нужно решить уравнение \( \tanh(x) = 0 \), точное решение которого \( x = 0 \). Если \( |x_0| \leq 1.08 \), то метод сходится за шесть итераций.

   Теперь зададим \( x_0 \) близким к \( 1.09 \). Возникнет переполнение

   Возникнет деление на ноль, так как для \( x_7 = -126055892892.66042 \) значение \( \tanh(x_7) \) при машинном округлении равно \( 1.0 \) и поэтому \( f^\prime(x_7) = 1 — \tanh(x_7)^2 \) становится равной нулю в знаменателе.

   Проблема заключается в том, что при таком начальном приближении метод Ньютона расходится.

   Еще один недостаток функции naive_Newton заключается в том, что функция f(x) вызывается в два раза больше, чем необходимо.

   Учитывая выше сказанное реализуем функцию с учетом следующего:

   1. обрабатывать деление на ноль
   2. задавать максимальное число итераций в случае расходимости метода
   3. убрать лишний вызов функции f(x)

   Метод Ньютона сходится быстро, если начальное приближение близко к решению. Выбор начального приближение влияет не только на скорость сходимости, но и на сходимость вообще. Т.е. при неправильном выборе начального приближения метод Ньютона может расходиться. Неплохой стратегией в случае, когда начальное приближение далеко от точного решения, может быть использование нескольких итераций по методу бисекций, а затем использовать метод Ньютона.

   При реализации метода Ньютона нужно знать аналитическое выражение для производной \( f^\prime(x) \). Python содержит пакет SymPy, который можно использовать для создания функции dfdx . Для нашей задачи это можно реализовать следующим образом:

   Решение нелинейных систем

   Идея метода Ньютона для приближенного решения системы (2) заключается в следующем: имея некоторое приближение \( \pmb^ <(k)>\), мы находим следующее приближение \( \pmb^ <(k+1)>\), аппроксимируя \( \pmb(\pmb^<(k+1)>) \) линейным оператором и решая систему линейных алгебраических уравнений. Аппроксимируем нелинейную задачу \( \pmb(\pmb^<(k+1)>) = 0 \) линейной $$ \begin \tag <5>\pmb(\pmb^<(k)>) + \pmb(\pmb^<(k)>)(\pmb^ <(k+1)>— \pmb^<(k)>) = 0, \end $$ где \( \pmb(\pmb^<(k)>) \) — матрица Якоби (якобиан): $$ \pmb<\nabla F>(\pmb^<(k)>) = \begin \frac<\partial f_1(\pmb^<(k)>)> <\partial x_1>& \frac<\partial f_1(\pmb^<(k)>)> <\partial x_2>& \ldots & \frac<\partial f_1(\pmb^<(k)>)> <\partial x_n>\\ \frac<\partial f_2(\pmb^<(k)>)> <\partial x_1>& \frac<\partial f_2(\pmb^<(k)>)> <\partial x_2>& \ldots & \frac<\partial f_2(\pmb^<(k)>)> <\partial x_n>\\ \vdots & \vdots & \ldots & \vdots \\ \frac<\partial f_n(\pmb^<(k)>)> <\partial x_1>& \frac<\partial f_n(\pmb^<(k)>)> <\partial x_2>& \ldots & \frac<\partial f_n(\pmb^<(k)>)> <\partial x_n>\\ \end $$ Уравнение (5) является линейной системой с матрицей коэффициентов \( \pmb \) и вектором правой части \( -\pmb(\pmb^<(k)>) \). Систему можно переписать в виде $$ \pmb(\pmb^<(k)>)\pmb <\delta>= — \pmb(\pmb^<(k)>), $$ где \( \pmb <\delta>= \pmb^ <(k+1)>— \pmb^ <(k)>\).

   Таким образом, \( k \)-я итерация метода Ньютона состоит из двух стадий:

   1. Решается система линейных уравнений (СЛАУ) \( \pmb(\pmb^<(k)>)\pmb <\delta>= -\pmb(\pmb^<(k)>) \) относительно \( \pmb <\delta>\).

   2. Находится значение вектора на следующей итерации \( \pmb^ <(k+1)>= \pmb^ <(k)>+ \pmb <\delta>\).

   Для решения СЛАУ можно использовать приближенные методы. Можно также использовать метод Гаусса. Пакет numpy содержит модуль linalg , основанный на известной библиотеке LAPACK, в которой реализованы методы линейной алгебры. Инструкция x = numpy.linalg.solve(A, b) решает систему \( Ax = b \) методом Гаусса, реализованным в библиотеке LAPACK.

   Когда система нелинейных уравнений возникает при решении задач для нелинейных уравнений в частных производных, матрица Якоби часто бывает разреженной. В этом случае целесообразно использовать специальные методы для разреженных матриц или итерационные методы.

   Можно также воспользоваться методами, реализованными для систем линейных уравнений.

   
   

   источники:

   http://planetcalc.ru/7748/

   http://slemeshevsky.github.io/num-mmf/snes/html/._snes-FlatUI001.html