Численное решение уравнений приближенными методами

Численные методы: решение нелинейных уравнений

Задачи решения уравнений постоянно возникают на практике, например, в экономике, развивая бизнес, вы хотите узнать, когда прибыль достигнет определенного значения, в медицине при исследовании действия лекарственных препаратов, важно знать, когда концентрация вещества достигнет заданного уровня и т.д.

В задачах оптимизации часто необходимо определять точки, в которых производная функции обращается в 0, что является необходимым условием локального экстремума.

В статистике при построении оценок методом наименьших квадратов или методом максимального правдоподобия также приходится решать нелинейные уравнения и системы уравнений.

Итак, возникает целый класс задач, связанных с нахождением решений нелинейных уравнений, например, уравнения или уравнения и т.д.

В простейшем случае у нас имеется функция , заданная на отрезке ( a , b ) и принимающая определенные значения.

Каждому значению x из этого отрезка мы можем сопоставить число , это и есть функциональная зависимость, ключевое понятие математики.

Нам нужно найти такое значение при котором такие называются корнями функции

Визуально нам нужно определить точку пересечения графика функции с осью абсцисс.

Метод деления пополам

Простейшим методом нахождения корней уравнения является метод деления пополам или дихотомия.

Этот метод является интуитивно ясным и каждый действовал бы при решении задачи подобным образом.

Алгоритм состоит в следующем.

Предположим, мы нашли две точки и , такие что и имеют разные знаки, тогда между этими точками находится хотя бы один корень функции .

Поделим отрезок пополам и введем среднюю точку .

Тогда либо , либо .

Оставим ту половину отрезка, для которой значения на концах имеют разные знаки. Теперь этот отрезок снова делим пополам и оставляем ту его часть, на границах которой функция имеет разные знаки, и так далее, достижения требуемой точности.

Очевидно, постепенно мы сузим область, где находится корень функции, а, следовательно, с определенной степенью точности определим его.

Заметьте, описанный алгоритм применим для любой непрерывной функции.

К достоинствам метода деления пополам следует отнести его высокую надежность и простоту.

Недостатком метода является тот факт, что прежде чем начать его применение, необходимо найти две точки, значения функции в которых имеют разные знаки. Очевидно, что метод неприменим для корней четной кратности и также не может быть обобщен на случай комплексных корней и на системы уравнений.

Порядок сходимости метода линейный, на каждом шаге точность возрастает вдвое, чем больше сделано итераций, тем точнее определен корень.

Метод Ньютона: теоретические основы

Классический метод Ньютона или касательных заключается в том, что если — некоторое приближение к корню уравнения , то следующее приближение определяется как корень касательной к функции , проведенной в точке .

Уравнение касательной к функции в точке имеет вид:

В уравнении касательной положим и .

Тогда алгоритм последовательных вычислений в методе Ньютона состоит в следующем:

Сходимость метода касательных квадратичная, порядок сходимости равен 2.

Таким образом, сходимость метода касательных Ньютона очень быстрая.

Запомните этот замечательный факт!

Без всяких изменений метод обобщается на комплексный случай.

Если корень является корнем второй кратности и выше, то порядок сходимости падает и становится линейным.

Упражнение 1. Найти с помощью метода касательных решение уравнения на отрезке (0, 2).

Упражнение 2. Найти с помощью метода касательных решение уравнения на отрезке (1, 3).

К недостаткам метода Ньютона следует отнести его локальность, поскольку он гарантированно сходится при произвольном стартовом приближении только, если везде выполнено условие , в противной ситуации сходимость есть лишь в некоторой окрестности корня.

Недостатком метода Ньютона является необходимость вычисления производных на каждом шаге.

Визуализация метода Ньютона

Метод Ньютона (метод касательных) применяется в том случае, если уравнение f(x) = 0 имеет корень , и выполняются условия:

1) функция y= f(x) определена и непрерывна при ;

2) f(a)·f(b) 0. Таким образом, выбирается точка с абсциссой x₀, в которой касательная к кривой y=f(x) на отрезке [a;b] пересекает ось Ox. За точку x₀ сначала удобно выбирать один из концов отрезка.

Рассмотрим метод Ньютона на конкретном примере.

Пусть нам дана возрастающая функция y = f(x) =x 2 -2, непрерывная на отрезке (0;2), и имеющая f ‘(x) = 2x > 0 и f »(x) = 2 > 0.

Уравнение касательной в общем виде имеет представление:

В нашем случае: y-y₀=2x₀·(x-x₀). В качестве точки x₀ выбираем точку B₁(b; f(b)) = (2,2). Проводим касательную к функции y = f(x) в точке B₁, и обозначаем точку пересечения касательной и оси Ox точкой x₁. Получаем уравнение первой касательной:y-2=2·2(x-2), y=4x-6.

Точка пересечения касательной и оси Ox: x₁ =

Рисунок 2. Результат первой итерации

Затем находим точку пересечения функции y=f(x) и перпендикуляра, проведенного к оси Ox через точку x₁, получаем точку В₂ =(1.5; 0.25). Снова проводим касательную к функции y = f(x) в точке В₂, и обозначаем точку пересечения касательной и оси Ox точкой x₂.

Точка пересечения касательной и оси Ox: x₂ = .

Рисунок 3. Вторая итерация метода Ньютона

Затем находим точку пересечения функции y=f(x) и перпендикуляра, проведенного к оси Ox через точку x₂, получаем точку В₃ и так далее.

В3 = ()

Рисунок 4. Третий шаг метода касательных

Первое приближение корня определяется по формуле:

= 1.5.

Второе приближение корня определяется по формуле:

=

Третье приближение корня определяется по формуле:

Таким образом, i-ое приближение корня определяется по формуле:

Вычисления ведутся до тех пор, пока не будет достигнуто совпадение десятичных знаков, которые необходимы в ответе, или заданной точности e — до выполнения неравенства |xi—xi-1|

using namespace std;

float f(double x) //возвращает значение функции f(x) = x^2-2

float df(float x) //возвращает значение производной

float d2f(float x) // значение второй производной

int _tmain(int argc, _TCHAR* argv[])

int exit = 0, i=0;//переменные для выхода и цикла

double x0,xn;// вычисляемые приближения для корня

double a, b, eps;// границы отрезка и необходимая точность

cin>>a>>b; // вводим границы отрезка, на котором будем искать корень

cin>>eps; // вводим нужную точность вычислений

if (a > b) // если пользователь перепутал границы отрезка, меняем их местами

if (f(a)*f(b)>0) // если знаки функции на краях отрезка одинаковые, то здесь нет корня

cout 0) x0 = a; // для выбора начальной точки проверяем f(x0)*d2f(x0)>0 ?

xn = x0-f(x0)/df(x0); // считаем первое приближение

cout eps) // пока не достигнем необходимой точности, будет продолжать вычислять

xn = x0-f(x0)/df(x0); // непосредственно формула Ньютона

> while (exit!=1); // пока пользователь не ввел exit = 1

Посмотрим, как это работает. Нажмем на зеленый треугольник в верхнем левом углу экрана, или же клавишу F5.

Если происходит ошибка компиляции «Ошибка error LNK1123: сбой при преобразовании в COFF: файл недопустим или поврежден», то это лечится либо установкой первого Service pack 1, либо в настройках проекта Свойства -> Компоновщик отключаем инкрементную компоновку.

Рис. 4. Решение ошибки компиляции проекта

Мы будем искать корни у функции f(x) = x2-2.

Сначала проверим работу приложения на «неправильных» входных данных. На отрезке [3; 5] нет корней, наша программа должна выдать сообщение об ошибке.

У нас появилось окно приложения:

Рис. 5. Ввод входных данных

Введем границы отрезка 3 и 5, и точность 0.05. Программа, как и надо, выдала сообщение об ошибке, что на данном отрезке корней нет.

Рис. 6. Ошибка «На этом отрезке корней нет!»

Выходить мы пока не собираемся, так что на сообщение «Exit?» вводим «0».

Теперь проверим работу приложения на корректных входных данных. Введем отрезок [0; 2] и точность 0.0001.

Рис. 7. Вычисление корня с необходимой точностью

Как мы видим, необходимая точность была достигнута уже на 4-ой итерации.

Чтобы выйти из приложения, введем «Exit?» => 1.

Метод секущих

Чтобы избежать вычисления производной, метод Ньютона можно упростить, заменив производную на приближенное значение, вычисленное по двум предыдущим точкам:

/

Итерационный процесс имеет вид:

где .

Это двухшаговый итерационный процесс, поскольку использует для нахождения последующего приближения два предыдущих.

Порядок сходимости метода секущих ниже, чем у метода касательных и равен в случае однократного корня .

Эта замечательная величина называется золотым сечением:

Убедимся в этом, считая для удобства, что .

Таким образом, с точностью до бесконечно малых более высокого порядка

Отбрасывая остаточный член, получаем рекуррентное соотношение, решение которого естественно искать в виде .

После подстановки имеем: и

Для сходимости необходимо, чтобы было положительным, поэтому .

Поскольку знание производной не требуется, то при том же объёме вычислений в методе секущих (несмотря на меньший порядок сходимости) можно добиться большей точности, чем в методе касательных.

Отметим, что вблизи корня приходится делить на малое число, и это приводит к потере точности (особенно в случае кратных корней), поэтому, выбрав относительно малое , выполняют вычисления до выполнения и продолжают их пока модуль разности соседних приближений убывает.

Как только начнется рост, вычисления прекращают и последнюю итерацию не используют.

Такая процедура определения момента окончания итераций называется приемом Гарвика.

Метод парабол

Рассмотрим трехшаговый метод, в котором приближение определяется по трем предыдущим точкам , и .

Для этого заменим, аналогично методу секущих, функцию интерполяционной параболой проходящей через точки , и .

В форме Ньютона она имеет вид:

Точка определяется как тот из корней этого полинома, который ближе по модулю к точке .

Порядок сходимости метода парабол выше, чем у метода секущих, но ниже, чем у метода Ньютона.

Важным отличием от ранее рассмотренных методов, является то обстоятельство, что даже если вещественна при вещественных и стартовые приближения выбраны вещественными, метод парабол может привести к комплексному корню исходной задачи.

Этот метод очень удобен для поиска корней многочленов высокой степени.

Метод простых итераций

Задачу нахождения решений уравнений можно формулировать как задачу нахождения корней: , или как задачу нахождения неподвижной точки.

Пусть и — сжатие: (в частности, тот факт, что — сжатие, как легко видеть, означает, что).

По теореме Банаха существует и единственна неподвижная точка

Она может быть найдена как предел простой итерационной процедуры

где начальное приближение — произвольная точка промежутка .

Если функция дифференцируема, то удобным критерием сжатия является число . Действительно, по теореме Лагранжа

Таким образом, если производная меньше единицы, то является сжатием.

Условие существенно, ибо если, например, на [0,1] , то неподвижная точка отсутствует, хотя производная равна нулю. Скорость сходимости зависит от величины . Чем меньше , тем быстрее сходимость.

Рассмотрим уравнение: .

Если в качестве взять функцию , то соответствующая итерационная процедура будет иметь вид: . Как нетрудно убедиться, метод итераций в данном случае расходится при любой начальной точке , не совпадающей с собственно неподвижной точкой .

Однако можно в качестве можно взять, например, функцию . Соответствующая итерационная процедура имеет вид: .

Эти итерации сходятся к неподвижной точке для любого начального приближения :

Действительно, в первом случае , т.е. для выполнения условия необходимо чтобы , но тогда . Таким образом, отображение сжатием не является.

Рассмотрим , неподвижная точка та же самая, ситуация другая. Здесь, хотя формально производная может быть довольно большой (при малых ж), однако уже на следующем шаге она будет меньше 1.

т.е. такой итерационный процесс всегда сходится.

Метод Ньютона представляет собой частный случай метода простых итераций.

Здесь нетрудно убедиться, что при существует окрестность корня, в которой .

то если корень кратности , то в его окрестности и, следовательно,.

Если — простой корень, то сходимость метода касательных квадратичная (то есть порядок сходимости равен 2).

Поскольку , то

Таким образом, сходимость метода Ньютона очень быстрая.

Нахождение всех корней уравнения

Недостатком почти всех итерационных методов нахождения корней является то, что они при однократном применении позволяют найти лишь один корень функции, к тому же, мы не знаем какой именно.

Чтобы найти другие корни, можно было бы брать новые стартовые точки и применять метод вновь, но нет гарантии, что при этом итерации сойдутся к новому корню, а не к уже найденному, если вообще сойдутся.

Для поиска других корней используется метод удаления корней.

Пусть — корень функции , рассмотрим функцию. Точка будет являться корнем функции на единицу меньшей кратности, чем, при этом все остальные корни у функций и совпадают с учетом кратности.

Применяя тот или иной метод нахождения корней к функции , мы найдем новый корень (который может в случае кратных корней и совпадать с ). Далее можно рассмотреть функцию и искать корни у неё.

Повторяя указанную процедуру, можно найти все корни с учетом кратности.

Заметим, что когда мы производим деление на тот или иной корень , то в действительности мы делим лишь на найденное приближение , и, тем самым, несколько сдвигаем корни вспомогательной функции относительно истинных корней функции . Это может привести к значительным погрешностям, если процедура отделения применялась уже достаточное число раз.

Чтобы избежать этого, с помощью вспомогательных функций вычисляются лишь первые итерации, а окончательные проводятся по исходной функции , используя в качестве стартового приближения, последнюю итерацию, полученную по вспомогательной функции.

Мы рассмотрели решение уравнений только в одномерном случае, нахождение решений многомерных уравнений существенно более трудная задача.

Лекция «Приближенные решения алгебраических и трансцендентных уравнений»

Обращаем Ваше внимание, что в соответствии с Федеральным законом N 273-ФЗ «Об образовании в Российской Федерации» в организациях, осуществляющих образовательную деятельность, организовывается обучение и воспитание обучающихся с ОВЗ как совместно с другими обучающимися, так и в отдельных классах или группах.

БИК Курс лекций по дисциплине «Численные методы»

для специальности 230105 Программное обеспечение вычислительной техники и автоматизированных систем

Раздел 2. Численные методы

2.1.1. Приближенные решения алгебраических и трансцендентных уравнений

Алгебраические и трансцендентные уравнения

Графический метод решения уравнений

1. Алгебраические и трансцендентные уравнения

При решении практических задач часто приходится сталкиваться с решением уравнений. Всякое уравнение с одним неизвестным можно представить в виде

( x )= g ( x ), (1)

где (х) и g (х) — данные функции, определенные на некотором числовом множестве X , называемом областью допустимых значений уравнения .

В общем случае нелинейное уравнение можно записать в виде:

F ( x ) определена и непрерывна на конечном или бесконечном интервале .

 Совокупность значений переменной х, при которых уравнение (1) превращается в тождество, называется решением этого уравнения, а каждое значение х : из этой совокупности называется корнем уравнения.

 Всякое число , обращающее функцию F ( x ) в нуль, т.е. такое, при котором F ( )=0, называется корнем уравнения (1).

 Число называется корнем k -той кратности, если при x =вместе с функцией F ( x ) равны нулю ее производные до ( k -1) порядка включительно:

F ( ) = F / () = … = F ( k -1) ( ) = 0.

Однократный корень называется простым.

 Решить уравнение – значит найти множество всех корней этого уравнения.

Оно может быть конечным или бесконечным.

 Два уравнения F ( x )=0 и G ( x =0) называются равносильными (эквивалентными), если всякое решение каждого из них является решением и для другого, то есть множества решений этих уравнений совпадают.

В зависимости от того, какие функции входят в уравнения (1) или (2), уравнения разделяются на два больших класса: линейные и нелинейные.

Нелинейные уравнения делятся, в свою очередь на: алгебраические и трансцендентные .

Уравнение (2) называется алгебраическим, если функция является алгебраической функцией. Путем алгебраических преобразований из всякого алгебраического уравнения можно получить уравнение в канонической форме:

где a ₀, a ₁, . , a _n — коэффициенты уравнения, а x -неизвестное. Показатель n называется степенью алгебраического уравнения.

Если функция F ( x ) не является алгебраической, то уравнение (1) называется трансцендентным.

В некоторых случаях решение трансцендентных уравнений можно свести к решению алгебраических уравнений.

Решение уравнения с одним неизвестным заключается в отыскании корней, т. е. тех значений х, которые обращают уравнение в тождество. Корни уравнения могут быть вещественными и невещественными (комплексными).

Найти точные значения корней уравнения можно только в исключительных случаях, обычно, когда есть какая-либо простая формула для вычисления значения корней, выражающая их через известные величины.

Поскольку подавляющее большинство нелинейных уравнений с одной переменой не решаются путем аналитических преобразований (точными методами), на практике их решают только численными методами.

При решении многих практических задач точное решение уравнения не всегда является необходимым. Задача нахождения корней считается решенной, если корни вычислены с заданной степенью точности.

 Решить уравнение – это значит

установить, имеет ли оно корни,

и найти значение корней с заданной точностью.

 Задача численного нахождения действительных и комплексных корней уравнения (2) обычно состоит из двух этапов:

отделение корней, т.е. нахождение достаточно малых окрестностей рассматриваемой области, в которых находится одно значение корня,

и уточнение корней, т.е. вычисление корней с заданной степенью точности в некоторой окрестности.

Наиболее распространенными на практике численными методами решения уравнения (2) являются: метод половинного деления, метод хорд, метод касательных (Ньютона), комбинированный метод, метод простой итерации. Применение того или иного метода для решения уравнения (2) зависит от числа корней, задания исходного приближения и поведения функции F ( x ).

2. Графические методы решения уравнений

Одним из методов решения уравнений является графический. Точность такого решения невелика, однако с помощью графика можно разумно выбрать первое приближение, с которого начнется дальнейшее решение уравнения. Существуют два способа графического решения уравнений.

Первый способ. Все члены уравнения переносят в левую часть, т. е. представляют его в виде f (х) = 0. После этого строят график функции у = f ( x ), где f (х) – левая часть уравнения. Абсциссы точек пересечения графика функции у = f (х) с осью Ох и являются корнями уравнения, так как в этих точках у = 0 (рис. 1).

Рисунок 1

Второй способ. Все члены уравнения разбивают на две группы, одну из них записывают в левой части уравнения, а другую в правой, т. е. представляют его в виде f (х) = g (х).

После этого строят графики двух функций у = f (х) и у = g (х). Абсциссы точек пересечения графиков этих двух функций и служат корнями данного уравнения. Пусть точка пересечения графиков имеет абсциссу х₀, ординаты обоих графиков в этой точке равны между собой, т. е. f (х₀) = g (х₀). Из этого равенства следует, что х₀ – корень уравнения (рис. 2).

Рисунок 2

Пример 1. Решить графически уравнение х 3 — 2 x 2 + 2х — 1 = 0.

Первый способ. Построим график функции у = х 3 — 2 x 2 + 2х — 1 и определим абсциссы точек пересечения этого графика с осью Ох. Кривая пересекает ось Ох в точке х = 1, следовательно, уравнение имеет один корень (рис. 3). (Отметим, что алгебраическое уравнение третьей степени имеет или один действительный корень или три. Так как кривая пересекает ось абсцисс только в одной точке, то данное уравнение имеет только один действительный корень. Остальные два корня – комплексные.)

Рисунок 3 Рисунок 4

Второй способ. Представим данное уравнение в виде х 3 = 2 x 2 + 2х–1 и построим графики функций у = х 3 и у = 2 x 2 + 2х – 1. Найдем абсциссу точки пересечения этих графиков; получим х = 1 (рис. 4).

Пример 2. Найти приближенно графическим способом корни уравнения lg х — Зх + 5 = 0.

Перепишем уравнение следующим образом: lg х = Зх — 5.

Функции в левой и в правой части уравнения имеют общую область определения: интервал 0

Строим графики функций у = lg х и у = Зх — 5 (рис. 5). Прямая у = Зх-5 пересекает логарифмическую кривую в двух точках с абсциссами x ₁ 0,00001 и x ₂ 1,75. На рисунке трудно показать пересечение графиков этих двух функций в первой точке, однако, учитывая, что нижняя ветвь, логарифмической кривой неограниченно приближается к оси Оу, можно предполагать, что пересечение этих двух графиков произойдет вблизи точки пересечения графика функции у = Зх — 5 и оси Оу. Абсцисса точки пересечения приближенно равна 0,00001. Итак, корни уравнения x ₁ 0,00001 и x ₂ 1,75

Рисунок 5 Рисунок 6

Пример 3. Найти графически корни уравнения 2 х = 2х.

Решение. Строим графики функций у = 2 х и у = 2х. Эти графики пересекаются в двух точках, абсциссы которых равны х ₁ = 1 и х ₂ = 2. Данное урав­нение имеет два корня х ₁ = 1 и х ₂ = 2 (рис. 6).

Подводя итог вышеизложенному, можно рекомендовать для графического решения уравнения f (х) = 0, все корни которого лежат в промежутке [а, b ], следующую простую схему.

1. Представить указанное уравнение в виде (х) = g (х) с таким расчетом, чтобы функции у=(х) и у = g (х) были просты и удобны для исследования и построения.

2. На бумаге вычертить графики функций у =(х) и у = g (х) в промежутке [а, b ].

3. Если графики не пересекаются, то корней в данном промежутке нет. Если же графики пересекаются, то нужно определить точки их пересечения, найти абсциссы этих точек, которые и будут приближенными значениями корней рассматриваемого уравнения.

Первый этап численного решения уравнения (2) состоит в отделении корней, т.е. в установлении “тесных” промежутков, содержащих только один корень.

 Корень уравнения f (х) = 0 считается отделенным на отрезке [ a , b ] , если на этом отрезке уравнение f (х) = 0 не имеет других корней.

 Отделить корни – это значит разбить всю область допустимых значений на отрезки, в каждом из которых содержится один корень.

Отделение корней можно произвести двумя способами – графическим и аналитическим.

Графический метод отделения корней. При графическом методе отделения корней поступают так же, как и при графическом методе решения уравнений.

Графический метод отделения корней не обладает большой точностью. Он дает возможность грубо определить интервалы изоляции к орня. Далее корни уточняются одним из способов, указанных ниже.

Аналитический метод отделения корней. Аналитически корни уравнения f(х) =0 можно отделить, используя некоторые свойства функций, изучаемые в курсе математического анализа.

Сформулируем без доказательства теоремы, знание которых необходимо при отделении корней.

1) Если непрерывная на отрезке функция F ( x ) принимает на его концах значения разных знаков, то уравнение (2) имеет на этом отрезке, по меньшей мере, один корень

2) Если функция F ( x ) к тому же еще и строго монотонна, то корень на отрезке единственный.

Рассмотрим примеры поведения некоторых функций:

Рисунок 7

Для отделения корней можно эффективно использовать ЭВМ.

Пусть имеется уравнение F ( x )=0, причем можно считать, что все корни находятся на отрезке , в которой функция F ( x ) отделена, непрерывна и F ( A )* F ( B ) F ( x ), начиная с точки X = A , двигаясь вправо с некоторым шагом h .

Как только обнаружится пара соседних значений F ( x ), имеющих разные знаки, и функция F ( x ) монотонна на этом отрезке, так соответствующие значения аргумента X (предыдущее и последующее) можно считать концами отрезка, содержащего корень.

Схема соответствующего алгоритма изображена ниже. Результатом решения поставленной задачи будут выводимые на дисплей в цикле значения параметров X ₁ и X ₂ (Концов выделенных отрезков).