Программа для решения системы уравнений методом ньютона

Метод Ньютона

Инструкция . Введите выражение F(x) , нажмите Далее . Полученное решение сохраняется в файле Word . Также создается шаблон решения в Excel .

• Решение онлайн
• Видеоинструкция
• Оформление Word

Правила ввода функции, заданной в явном виде

2. Примеры правильного написания F(x) :
   1. 10•x•e 2x = 10*x*exp(2*x)
   2. x•e -x +cos(3x) = x*exp(-x)+cos(3*x)
   3. x 3 -x 2 +3 = x^3-x^2+3
   4. Выражение 0.9*x=sin(x)+1 необходимо преобразовать к виду: sin(x)+1-0.9*x . Аналогично, x^2-7=5-3x к виду x^2+3x-12 .

   Пусть дано уравнение f(x)=0 , где f(x) определено и непрерывно в некотором конечном или бесконечном интервале a ≤ x ≤ b . Всякое значение ξ, обращающее функцию f(x) в нуль, то есть такое, что f(ξ)=0 называется корнем уравнения или нулем функции f(x) . Число ξ называется корнем k -ой кратности, если при x = ξ вместе с функцией f(x) обращаются в нуль ее производные до (k-1) порядка включительно: f(ξ)=f’(ξ)= … =f k-1 (ξ) = 0 . Однократный корень называется простым.
   Приближенное нахождение корней уравнения складывается из двух этапов:

   1. Отделение корней, то есть установление интервалов [α_i,β_i] , в которых содержится один корень уравнения.
      1. f(a)•f(b) , т.е. значения функции на его концах имеют противоположные знаки.
      2. f’(x) сохраняет постоянный знак, т.е. функция монотонна (эти два условия достаточны, но НЕ необходимы) для единственности корня на искомом отрезке).
      3. f”(x) сохраняет постоянный знак, т.е. функция выпукла вверх, либо – вниз.
   2. Уточнение приближенных корней, то есть доведение их до заданной точности.

   Геометрическая интерпретация метода Ньютона (метод касательных)

   Критерий завершения итерационного процесса имеет вид

   Численные методы решения систем нелинейных уравнений

   Введение

   Многие прикладные задачи приводят к необходимости нахождения общего решения системы нелинейных уравнений. Общего аналитического решения системы нелинейных уравнений не найдено. Существуют лишь численные методы.

   Следует отметить интересный факт о том, что любая система уравнений над действительными числами может быть представлена одним равносильным уравнением, если взять все уравнения в форме , возвести их в квадрат и сложить.

   Для численного решения применяются итерационные методы последовательных приближений (простой итерации) и метод Ньютона в различных модификациях. Итерационные процессы естественным образом обобщаются на случай системы нелинейных уравнений вида:

   (1)

   Обозначим через вектор неизвестных и определим вектор-функцию Тогда система (1) записывается в виде уравнения:

   (2)

   Теперь вернёмся к всеми любимому Python и отметим его первенство среди языков программирования, которые хотят изучать [1].

   

   Этот факт является дополнительным стимулом рассмотрения числительных методов именно на Python. Однако, среди любителей Python бытует мнение, что специальные библиотечные функции, такие как scipy.optimize.root, spsolve_trianular, newton_krylov, являются самым лучшим выбором для решения задач численными методами.

   С этим трудно не согласится хотя бы потому, что в том числе и разнообразие модулей подняло Python на вершину популярности. Однако, существуют случаи, когда даже при поверхностном рассмотрении использование прямых известных методов без применения специальных функций библиотеки SciPy тоже дают неплохие результаты. Иными словами, новое- это хорошо забытое старое.

   Так, в публикации [2], на основании проведенных вычислительных экспериментов, доказано, что библиотечная функция newton_krylov, предназначенная для решения больших систем нелинейных уравнений, имеет в два раза меньшее быстродействие, чем алгоритм TSLS+WD
   (two-step least squares), реализованный средствами библиотеки NumPy.

   Целью настоящей публикации является сравнение по числу итераций, быстродействию, а главное, по результату решения модельной задачи в виде системы из ста нелинейных алгебраических уравнений при помощи библиотечной функции scipy.optimize.root и методом Ньютона, реализованного средствами библиотеки NumPy.

   Возможности решателя scipy.optimize.root для численного решения систем алгебраических нелинейных уравнений

   Библиотечная функция scipy.optimize.root выбрана в качестве базы сравнения, потому что имеет обширную библиотеку методов, пригодных для сравнительного анализа.

   scipy.optimize.root(fun, x0, args=(), method=’hybr’, jac=None, tol=None,callback=None, ptions=None)
   fun — Векторная функция для поиска корня.
   x0 –Начальные условия поиска корней

   method:
   hybr -используется модификация Пауэлл гибридный метод;
   lm – решает системы нелинейных уравнений методом наименьших квадратов.
   Как следует из документации [3] методы broyden1, broyden2, anderson, linearmixing, diagbroyden, excitingmixing, krylov являются точными методами Ньютона. Остальные параметры являются «не обязательными» и с ними можно ознакомится в документации.

   Методы решения систем нелинейных уравнений

   Приведенный далее материал действительно можно прочитать в литературе, например в [4], но я уважаю своего читателя и для его удобства приведу вывод метода по возможности в сокращенном виде. Те, кто не любит формулы, этот раздел пропускают.

   В методе Ньютона новое приближение для решения системы уравнений (2) определяется из решения системы линейных уравнений:

   (3)

   Определим матрицу Якоби:

   (4)

   Запишем(3) в виде:

   (5)

   Многие одношаговые методы для приближенного решения (2) по аналогии с двухслойными итерационными методами для решения систем линейных алгебраических уравнений можно записать в виде:

   (6)

   где — итерационные параметры, a — квадратная матрица n х n, имеющая обратную.

   При использовании записи (6) метод Ньютона (5) соответствует выбору:

   

   Система линейных уравнений (5) для нахождения нового приближения может решаться итерационно. В этом случае мы имеем двухступенчатый итерационный процесс с внешними и внутренними итерациями. Например, внешний итерационный процесс может осуществляться по методу Ньютона, а внутренние итерации — на основе итерационного метода Зейделя

   При решении систем нелинейных уравнений можно использовать прямые аналоги стандартных итерационных методов, которые применяются для решения систем линейных уравнений. Нелинейный метод Зейделя применительно к решению (2) дает:

   (7)

   В этом случае каждую компоненту нового приближения из решения нелинейного уравнения, можно получить на основе метода простой итерации и метода Ньютона в различных модификациях. Тем самым снова приходим к двухступенчатому итерационному методу, в котором внешние итерации проводятся в соответствии с методом Зейделя, а внутренние — с методом Ньютона.

   Основные вычислительные сложности применения метода Ньютона для приближенного решения систем нелинейных уравнений связаны с необходимостью решения линейной системы уравнений с матрицей Якоби на каждой итерации, причем от итерации к итерации эта матрица меняется. В модифицированном методе Ньютона матрица Якоби обращается только один раз:

   (8)

   Выбор модельной функции

   Такой выбор не является простой задачей, поскольку при увеличении числа уравнений в системе в соответствии с ростом числа переменных результат решения не должен меняться, поскольку в противном случае невозможно отследить правильность решения системы уравнений при сравнении двух методов. Привожу следующее решение для модельной функции:

   Функция f создаёт систему из n нелинейных уравнений, решение которой не зависит от числа уравнений и для каждой из n переменных равно единице.

   Программа для тестирования на модельной функции c результатами решения системы алгебраических нелинейных уравнений с помощью библиотечной функции optimize.root для разных методов отыскания корней

   Только один из методов, приведенных в документации [3] прошёл тестирование по результату решения модельной функции, это метод ‘krylov’.

   Решение для n=100:

   Solution:
   [1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1.]
   Krylov method iteration = 4219
   Optimize root time 7.239 seconds:

   Вывод: С увеличением числа уравнений вдвое заметно появление ошибок в решении. При дальнейшем увеличении n решение становится не приемлемым, что возможно из-за автоматической адаптации к шагу, эта же причина резкого падения быстродействия. Но это только моё предположение.

   Программа для тестирования на модельной функции c результатами решения системы алгебраических нелинейных уравнений с помощью программы написанной на Python 3 с учётом соотношений (1)-(8) для отыскания корней по модифицированному методу Ньютона

   Решение для n=100:

   Solution:
   [1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1.]
   Newton iteration = 13
   Newton method time 0.496 seconds

   Решение для n=200:

   Solution:
   [1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1. 1.
   1. 1. 1. 1. 1. 1. 1. 1.]
   Newton iteration = 14
   Newton method time 1.869 seconds

   Чтобы убедиться в том, что программа действительно решает систему, перепишем модельную функцию для ухода от корня со значением 1 в виде:

   Получим:
   Solution:
   [ 0.96472166 0.87777036 0.48175823 -0.26190496 -0.63693762 0.49232062
   -1.31649896 0.6865098 0.89609091 0.98509235]
   Newton iteration = 16
   Newton method time 0.046 seconds

   Вывод: Программа работает и при изменении модельной функции.

   Теперь вернёмся к начальной модельной функции и проверим более широкий диапазон для n, например в 2 и 500.
   n=2
   Solution:
   [1. 1.]
   Newton iteration = 6
   Newton method time 0.048 seconds
   n=500

   Программа для метода Ньютона-Рафсона

   Если задана функция f (x) с плавающим числом x и начальное предположение для корня, найдите корень функции в интервале. Здесь f (x) представляет алгебраическое или трансцендентное уравнение.

   Для простоты мы предположили, что производная функции также предоставляется в качестве входных данных.

   Пример:

   Мы обсудили ниже методы, чтобы найти root в множестве 1 и множестве 2
   Комплект 1: метод деления пополам
   Набор 2: метод ложного положения

   Сравнение с двумя вышеуказанными методами:

   1. В предыдущих методах нам дали интервал. Здесь нам требуется начальная угадать значение root.
   2. Два предыдущих метода гарантированно сходятся, Ньютон Рахсон может не сходиться в некоторых случаях.
   3. Метод Ньютона-Рафсона требует производной. Некоторые функции могут быть трудны для
      невозможно дифференцировать.
   4. Для многих задач метод Ньютона-Рафсона сходится быстрее, чем два вышеуказанных метода.
   5. Кроме того, он может идентифицировать повторяющиеся корни, так как он не ищет изменения знака f (x) в явном виде

   Формула:
   Начиная с начального предположения x ₁ , метод Ньютона-Рафсона использует приведенную ниже формулу для нахождения следующего значения x, то есть x _{n + 1} из предыдущего значения x _n .

   

   
   Алгоритм:
   Ввод: начальный x, func (x), производнаяFunc (x)
   Вывод: Root of Func ()

   1. Вычислить значения func (x) и DeriveFunc (x) для заданного начального x
   2. Вычислить h: h = func (x) / производныйFunc (x)
   3. Хотя h больше допустимой ошибки ε
      1. h = func (x) / производнаяFunc (x)
      2. х = х — ч

   Ниже приведена реализация вышеуказанного алгоритма.

   // C ++ программа для реализации метода Ньютона Рафсона для
   // решение уравнений
   #include
   #define EPSILON 0.001

   using namespace std;

   // Пример функции, решение которой определяется с помощью
   // Метод деления пополам. Функция х ^ 3 — х ^ 2 + 2

   double func( double x)

   return x*x*x — x*x + 2;

   // Производная от вышеуказанной функции, которая равна 3 * x ^ x — 2 * x

   double derivFunc( double x)

   // Функция поиска корня

   void newtonRaphson( double x)

   double h = func(x) / derivFunc(x);

   while ( abs (h) >= EPSILON)

   // x (i + 1) = x (i) — f (x) / f ‘(x)

   cout «The value of the root is : «

   // Программа драйвера для тестирования выше

   double x0 = -20; // Предполагаемые начальные значения

   // Java-программа для реализации
   // Метод Ньютона Рафсона для решения
   // уравнения

   static final double EPSILON = 0.001 ;

   // Пример функции, решение которой

   // определяется методом деления пополам.

   // Функция x ^ 3 — x ^ 2 + 2

   static double func( double x)

   return x * x * x — x * x + 2 ;

   // Производная от вышеуказанной функции

   // который равен 3 * x ^ x — 2 * x

   static double derivFunc( double x)

   return 3 * x * x — 2 * x;

   // Функция поиска корня

   static void newtonRaphson( double x)

   double h = func(x) / derivFunc(x);

   while (Math.abs(h) >= EPSILON)

   h = func(x) / derivFunc(x);

   // x (i + 1) = x (i) — f (x) / f ‘(x)

   System.out.print( «The value of the»

   + Math.round(x * 100.0 ) / 100.0 );

   public static void main (String[] args)

   // Предполагаемые начальные значения

   // Этот код предоставлен Anant Agarwal.

   # Python3 код для реализации Ньютона
   # Рафсон Метод решения уравнений

   # Пример функции, решение которой
   # определяется методом деления пополам.
   # Функция x ^ 3 — x ^ 2 + 2

   return x * x * x — x * x + 2

   # Производная вышеуказанной функции
   # 3 * x ^ x — 2 * x

   def derivFunc( x ):

   return 3 * x * x — 2 * x

   # Функция поиска рута

   def newtonRaphson( x ):

   h = func(x) / derivFunc(x)

   while abs (h) > = 0.0001 :

   h = func(x) / derivFunc(x)

   # x (i + 1) = x (i) — f (x) / f ‘(x)

   print ( «The value of the root is : » ,

   # Программа драйвера для тестирования выше

   x0 = — 20 # Предполагаемые начальные значения

   # Этот код предоставлен «Sharad_Bhardwaj»

   // C # программа для реализации
   // Метод Ньютона Рафсона для решения
   // уравнения

   static double EPSILON = 0.001;

   // Пример функции, решение которой

   // определяется методом деления пополам.

   // Функция x ^ 3 — x ^ 2 + 2

   static double func( double x)

   return x * x * x — x * x + 2;

   // Производная от вышеуказанной функции

   // который равен 3 * x ^ x — 2 * x

   static double derivFunc( double x)

   return 3 * x * x — 2 * x;

   // Функция поиска корня

   static void newtonRaphson( double x)

   double h = func(x) / derivFunc(x);

   while (Math.Abs(h) >= EPSILON)

   h = func(x) / derivFunc(x);

   // x (i + 1) = x (i) — f (x) / f ‘(x)

   Console.Write( «The value of the»

   + Math.Round(x * 100.0) / 100.0);

   public static void Main ()

   // Предполагаемые начальные значения

   // Этот код предоставлен нитин митталь

   // PHP программа для реализации
   // метода Ньютона Рафсона для
   // решение уравнений

   // Пример функции, чья
   // решение определено
   // используя метод деления пополам.
   // Функция x ^ 3 — x ^ 2 + 2

   function func( $x )

   // Производная от вышеупомянутого
   // функция 3 * x ^ x — 2 * x

   function derivFunc( $x )

   // Функция для
   // найти корень

   function newtonRaphson( $x )

   $h = func( $x ) / derivFunc( $x );

   while ( abs ( $h ) >= $EPSILON )

   $h = func( $x ) / derivFunc( $x );

   echo «The value of the » .

   $x0 = -20; // Предполагаемые начальные значения

   // Этот код предоставлен ajit
   ?>

   Выход:

   Как это работает?
   Идея состоит в том, чтобы нарисовать линию, касательную к f (x) в точке x ₁ . Точка, где касательная линия пересекает ось х, должна быть более точной оценкой корня, чем х ₁ . Назовите эту точку х ₂ . Вычислите f (x ₂ ) и нарисуйте линию, касательную в x ₂ .

   

   Мы знаем, что наклон прямой от (x ₁ , f (x ₁ )) до (x ₂ , 0) равен f ‘(x ₁ )), где f’ представляет производную от f.

   Альтернативное объяснение с использованием серии Тейлора:

   Примечания:

   1. Мы обычно использовали этот метод для улучшения результата, полученного либо методом деления пополам, либо методом ложного положения.
   2. Вавилонский метод для квадратного корня получен из метода Ньютона-Рафсона.

   Эта статья предоставлена Абхираджем Смитом . Пожалуйста, напишите комментарии, если вы обнаружите что-то неправильное, или вы хотите поделиться дополнительной информацией по обсуждаемой теме

   
   

   источники:

   http://habr.com/ru/post/419453/

   http://espressocode.top/program-for-newton-raphson-method/