Реферат
Тема: «Линейные системы уравнений»
Содержание
1. Уравнения, векторы, матрицы, алгебра
2. Умножение матриц как внешнее произведение векторов
3. Нормы векторов и матриц
4. Матрицы и определители
5. Собственные значения и собственные векторы
6. Ортогональные матрицы из собственных векторов
7. Функции с матричным аргументом
8. Вычисление проекторов матрицы
Пример использования числовых характеристик матриц
10. Оценка величины и нахождение собственных значений
Литература
1. Уравнения, векторы, матрицы, линейная алгебра
Многие из рассмотренных нами задач сводились к формированию систем линейных алгебраических или дифференциальных уравнений, которые требовалось решить. Пока системы включали в себя не более трех-четырех переменных, их несложно было решать известными классическими методами: методом определителей (Крамера) или методом исключения переменных (Гаусса). С появлением цифровых вычислительных машин порядок алгебраических уравнений, решаемых методом исключений вырос в несколько десятков раз. Однако выявилось множество причин, по которым решение таких систем получить не удавалось. Появившиеся различные модификации метода исключения не привели к существенным улучшениям ситуации с получением решений. Появление же систем с количеством переменных более многих сотен и тысяч заставили обратиться и развивать итерационные методы и методы эквивалентных векторно-матричных преобразований применительно к решению линейных систем алгебраических уравнений.
Основные теоретические результаты были получены путем обобщения известных классических методов функционального анализа и алгебры конечномерных линейных пространств на векторно-матричные представления систем линейных алгебраических и дифференциальных уравнений.
Общая форма записи линейной системы алгебраических уравнений с n
неизвестными может быть представлена следующим образом:
Здесь – неизвестные,
– заданные числа,
– заданные числовые коэффициенты.
Последовательность записи уравнений в системе и обозначение неизвестных в последней не играет роли. В этом плане удобно при анализе и исследованиях системы использовать упорядоченную индексацию натурального ряда для неизвестных, значений правых частей и коэффициентов в уравнениях, однозначно привязывая, тем самым, каждое слагаемое и каждое уравнение к определенной позиции в общей записи. В результате можно выделить в данной записи уравнений три позиционно упорядоченных неделимых объекта:
список переменных – ,
список правых частей – и
матрицу коэффициентов – .
Первые два объекта в линейной алгебре называют вектором-строкой
, а второй – квадратной матрицей.
Операции с векторами, матрицами должны быть определены так, чтобы однозначно отображать допустимые эквивалентные преобразования исходной системы алгебраических уравнений. В предельных случаях задания векторов и матриц: , – аддитивные и мультипликативные операции должны переходить в аналогичные операции со скалярными величинами.
Если рассмотреть i-
тую строку исходной системы
,
то в ней кроме упорядоченного расположения компонент присутствует упорядоченное по индексу j
размещение коэффициентов , которые могут рассматриваться как вектор-строка . Результатом суммы покомпонентного перемножения двух векторов-строк должно быть число. В линейной алгебре такая операция с векторами определена и названа скалярным
или внутренним произведением
векторов:
.
Скалярное произведение линейно, так как обладает основными свойствами линейных преобразований , и коммутативно.
Определение скалярного произведения позволяет переписать исходную систему уравнений в виде вектора с компонентами из скалярных произведений:
или
.
Вторая форма представления векторов в форме столбцов более наглядна в смысле зрительного установления покомпонентного равенства двух векторов: стоящего слева от знака равенства и справа. Эта форма, форма вектора-столбца
принята за каноническую (основную).
Левый вектор-столбец в записи каждой строки содержит вектор неизвестных и естественно желание вынести его за прямые скобки. Оставшиеся коэффициенты упорядочены, как в матрице . Теперь для представления исходной системы уравнений в виде несложно определить векторно-матричную операцию , результатом которой является вектор с i-
той компонентой, равной .
Аксиоматическое построение линейной (векторной) алгебры с рассмотренными базовыми операциями позволило установить важные и полезные свойства, как самих объектов алгебры, так и их алгебраических выражений.
2. Умножение векторов и матриц
Среди n-
мерных векторов и векторных операций над ними важно выделить сумму n
векторов, умноженных на числовые константы:
,
которая при произвольном выборе в частности может оказаться нулевым вектором (с нулевыми компонентами) или одним из суммируемых векторов . Если нулевой вектор при суммировании не нулевых векторов можно получить лишь в случае, когда все , то такие векторы
в наборе называют линейно независимыми
. Такими векторами в частности будут единичные векторы
, у которых все компоненты нулевые, кроме единичной компоненты, расположенной на j-
строке.
Линейно независимый набор единичных векторов с геометрической точки зрения можно рассматривать как n-
мерную систему координат. Набор компонент любого вектора в этой n-
мерной системе определяет координаты точки конца вектора, исходящего из начала координат, а также являются длинами проекций вектора на координатных осях.
Среди матриц размера и операций с ними в первую очередь необходимо отметить операцию умножения матрицы на матрицу. Необходимость введения операции умножения матриц возникает уже при первом взгляде на полученную векторную форму записи линейного уравнения . Векторы слева и справа имеют равные компоненты. Так как коэффициенты в строках матрицы в общем произвольны по величине, то соответствующие компоненты вектора x
не обязаны быть равными компонентам вектора y
. Последнее означает, что умножение вектора x
на матрицу A
вызвало изменение длины и направления вектора x
. Если аналогичное преобразование выполняется над вектором правой части до решения уравнения, то вектор левой части должен быть преобразован так же:
.
Фактически мы имеем дело с заменой системы координат. Рассмотрим методику вычисления коэффициентов результирующей матрицы уравнения:
,
где – элемент матрицы С
, равный скалярному произведению вектор-строки матрицы В
на вектор-столбец матрицы А
.
Произведение матриц в общем случае не коммутативно. Ассоциативный и распределительный законы в матричных выражениях выполняются.
3.
Нормы векторов и матриц
Интерпретация упорядоченного набора чисел, как вектора в многомерном пространстве, позволяет говорить и о его длине. В прямоугольной системе координат по известным длинам проекций на координатные оси длину самого вектора вычисляют, как корень квадратный из суммы квадратов проекций:
,
где – компоненты вектора ,
– евклидова норма вектора, его длина.
В качестве нормы в литературе иногда используют квадрат длины вектора или другое выражение с компонентами вектора, лишь бы оно обладало свойствами расстояния: было положительным, линейным и удовлетворяло неравенству треугольника.
Деление вектора на величину его нормы называют нормированием
, т.е. приведением вектора к единичной длине.
Норма матрицы в принципе тоже может быть определена в виде корня квадратного из суммы квадратов ее элементов или другими выражениями со свойствами расстояний. Однако в ряде случаев работы с векторно-матричными выражениями нормы векторов и матриц должны быть согласованными ввиду того, что результатом произведения матрицы на вектор является опять же вектор. Если выражение для нормы вектора принято, то
,
где функция sup говорит о том, что из всех отношений норм, стоящих в числителе и знаменателе, взятых при любом векторе x
, кроме нулевого, выбирается наименьшее, т.е. это функция выбора нижней границы значений. Согласованная матричная норма для евклидовой нормы вектора удовлетворяет неравенству
.
Нормы вектора и матрицы служат, в основном, для сопоставительной оценки матриц и векторов, указывая на возможный диапазон представления строгих числовых характеристик. К числу последних, в первую очередь, нужно отнести определители матриц, собственные значения и собственные векторы матриц и ряд других.
4.
Матрицы и определители
Упорядоченный набор коэффициентов из системы линейных алгебраических уравнений используется для получения числовой характеристики, величина которой инвариантна по отношению к эквивалентным преобразованиям системы. Речь идет об определителе матрицы. Важное свойство определителей матрицы
обнаруживается в связи с вычислением произведения матриц:
Учитывая это свойство и зная, что определитель единичной матрицы det(E
)=1, можно найти матрицу B
и ее определитель из уравнения:
откуда следует, что и .
Из свойств определителей нелишне помнить и такие:
где – транспонированная матрица A
,
n
– размер квадратной матрицы A
,
– матрица перестановки строк или столбцов,
s, c=
0,1,…, n –
число выполненных перестановок строк и / или столбцов.
Если обратная матрица исходной системы уравнений определена, то, используя эквивалентные преобразования их векторно-матричной записи, решение уравнений можно представить в следующем виде:
Умножив вектор правых частей на обратную матрицу, получим вектор решения.
Классический способ вычисления обратной матрицы использует определители и осуществляется по формуле:
,
где – алгебраическое дополнение, а – минор матрицы A
, получаемый вычислением определителя матрицы A
, в которой вычеркнуты j-
тая строка и i-
тый столбец.
Такой способ вычисления определителя представляет в основном теоретический интерес, так как требует выполнения неоправданно большого числа операций.
Очень просто вычисляется определитель, если матрица диагональная или треугольная. В этом случае определитель равен произведению диагональных элементов. Кстати и решения уравнений, имеющих такие матрицы коэффициентов, получаются тривиально. Поэтому основные усилия разработчиков методов решения алгебраических уравнений направлены на поиск и обоснование эквивалентных преобразований матрицы с сохранением всех ее числовых характеристик, но имеющих в конце преобразований диагональную или треугольную форму.
5.
Собственные значения и собственные векторы
Рассмотрим теоретические основы и методы, позволяющие выполнять эквивалентные матричные преобразования.
Найдем вектор, который под воздействием матрицы A
изменяет только свою величину, но не направление. Для системы уравнений это означает, что вектор решения должен быть пропорционален с некоторым коэффициентом вектору правой части:
В результате несложных преобразований получены однородные векторно-матричные уравнения в столбцовой и в строчной формах с некоторым числовым параметром и неизвестным вектором-столбцом x
и вектором-строкой , представляющих собственное состояние системы. Однородная система может иметь отличное от нуля решение лишь в том случае, когда определитель ее равен нулю.
Полагая, что решение все же существует, т.е. и , удовлетворить уравнению можно только за счет приравнивания нулю определителя однородной системы:
Раскрыв определитель и сгруппировав слагаемые при одинаковых степенях неизвестного параметра, получим алгебраическое уравнение степени n
относительно :
Это уравнение называется характеристическим уравнением
матрицы и имеет в общем случае n
корней, возможно комплексных, которые называются собственными значениями
матрицы и в совокупности составляют спектр матрицы
. Относительно n
корней различают два случая: все корни различные или некоторые корни кратные.
Важным свойством характеристического уравнения матрицы A
является то, что согласно теореме Гамильтона-Кели, матрица A
удовлетворяет ему:
где – k-
тая степень матрицы.
Подставляя каждое в однородную систему, получим векторно-матричные уравнения для нахождения векторов или векторов-строк . Эти векторы называются соответственно правыми собственными векторами
и левыми собственными векторами
матрицы.
Решение однородных уравнений имеет некоторую специфику. Если (как в равной мере и ) является решением, то, будучи умноженным на произвольную константу, оно тоже будет являться решением. Поэтому в качестве собственных векторов берут такие векторы, которые имеют норму, равную единице, и тогда:
Если все собственные числа различны, то собственные векторы матрицы A
образуют систему n
линейно независимых векторов таких, что
6.
Ортогональные матрицы из собственных векторов
Из правых собственных векторов можно составить матрицу T,
а из левых – матрицу , которые обладают уникальными свойствами по отношению к матрице A
.
Умножив матрицу A
слева на матрицу , а справа – на матрицу T
,
после несложных преобразований получим:
.
Каждое скалярное произведение в матрице, принимая во внимание линейную независимость собственных векторов, полученных для различных собственных значений, можно преобразовать так:
Поэтому, результатом преобразования матрицы A
будет диагональная матрица с собственными значениями, расположенными на диагонали:
Если вместо A
взять единичную матрицу и проделать аналогичные преобразования, то станет очевидным равенство , откуда следует . Последнее позволяет для преобразования матрицы A
в диагональную обходиться только системой правых собственных векторов-столбцов:
Последнее показывает, что умножение матрицы A
на слева и на S
справа, где S –
произвольная не особая матрица, преобразует ее в некоторую матрицу B
, которая имеет определитель, равный определителю матрицы A
. Такие преобразования матриц называют эквивалентными (подобными
).
Продолжая использовать T-
матрицу, несложно получить следующие важные результаты:
.
7.
Функции с матричным аргументом
Пусть теперь задана некоторая матричная функция от матрицы A
:
.
С другой стороны очевидно и обратное
,
где – матрица с одной единицей на i
-том месте диагонали ().
где – проекторы матрицы
A
, образуемые умножением одноименных правых и левых собственных векторов по правилам умножения прямоугольных матриц с размерами соответственно и . Сумма проекторов .
Проекторы обладают свойствами идемпотентных матриц
, т.е. матриц, все степени которых равны первой. Для невырожденных проекторов () матрицы A
() справедливо:
Представление функции от матрицы A
в виде взвешенной суммы проекций называется спектральным разложением
матричной функции по собственным значениям матрицы A
:
.
Если в качестве матричных функций взять и , то их спектральные разложения будут следующими:
8. Вычисление проекторов матрицы
Проекторы матрицы можно также вычислить, воспользовавшись интерполяционным многочленом Лагранжа с матричным аргументом:
По известному спектру проекторы матрицы можно найти и методом неопределенных коэффициентов. Для чего выбирают такие функции от матрицы A
, которые вычисляются очевидным образом, например, такие:
Записывая разложение для каждой функции, получим следующую систему линейных уравнений относительно проекторов:
В случае, когда в спектре матрицы имеются кратные собственные значения, вычисление проекторов осуществляется по интерполяционным формулам Лагранжа, учитывающим еще и заданные значения производных в отдельных точках. Разложение матричной функции по значениям ее на спектре в этом случае имеет вид:
где – значения i
-тых произ-водных функции в точках, соответствующих различным (не кратным) корням характеристического многочлена,
– число кратных корней ,
– проекторы кратных корней, в выражении которых содержатся
– проекторы различных корней.
9. Пример использования числовых характеристик матриц
Знание собственных значений матрицы и ее проекторов позволяет выполнять вычисления аналитических функций получающихся, например, при решениях систем линейных дифференциальных уравнений, при исследованиях эквивалентных матричных преобразований и пр.
Для примера построим матрицу с заданными собственными значениями и собственными векторами, основанными на векторах .
Сначала необходимо убедиться в линейной независимости исходных векторов и добиться того, чтобы левые и правые одноименные собственные векторы оказались ортогональными, т.е. . Проверка линейной независимости может быть объединена с процессом ортогонализации
заданной системы векторов методом Грама-Шмидта
.
Для заданных векторов построим систему векторов таких, что , следующим образом:
Откуда последовательно находятся коэффициенты :
Взаимной ортогональности векторов v
можно было бы добиваться и так, чтобы каждый был ортогонален каждому , положив и приравняв нулю скалярные произведения :
Определитель этой системы называют определителем Грама
:
,
где - матрица, в общем случае комплексно сопряженная с матрицей
, составленной из заданных векторов.
Если грамиан
положителен, а он всегда неотрицателен, то векторы линейно независимы, а если равен нулю, то зависимы. Это один из способов проверки конкретного набора векторов на их линейную независимость.
Для заданного выше набора векторов определитель произведения матрицы X
на транспонированную X
*
будет равен
Таким образом, заданная система векторов линейно независима. Для построения ортонормированной системы векторов последовательно вычислим коэффициенты и ортогональные векторы:
После нормирования векторы образуют правую систему собственных векторов. Транспонированная Т
-матрица с этими векторами есть -матрица (); ее строки являются собственными левосторонними векторами:
.
Внешнее (матричное) произведение каждого нормированного вектора самого на себя дает нам проекторы искомой матрицы:
Умножая каждое собственное значение из заданного набора на свой проектор и суммируя, получим:
.
Аналогично получается обратная матрица:
.
С помощью этих же проекторов вычисляется любая аналитическая функция, аргументом которой является матрица A
:
.
10.
Оценка величины и нахождение собственных значений
Краткое рассмотрение основных теоретических положений линейной алгебры позволяет сделать следующие выводы: для успешного решения систем линейных алгебраических уравнений и вычислений матричных функций необходимо уметь находить ее собственные значения и собственные векторы.
Для любой матрицы A
с действительными компонентами и любого ненулевого вектора v
существует отношение Рэлея,
связывающее скалярное произведение векторов v
и Av
с минимальным и максимальным собственными значениями:
.
К высказанному необходимо сделать еще ряд замечаний, связанных со случаями, когда исходная матрица имеет кратные собственные значения или оказывается вырожденной.
Характеристическое уравнение матрицы A
с кратным корнем можно записать в виде
.
На основании этой записи можно составить минимальное
характеристическое уравнение
, для которого матрица A
также является корнем:
.
Особенности в части определения собственных значений и векторов обычно возникают в несимметричных матрицах (). Некоторые из них никакими подобными преобразованиями не удается свести к диагональной. Например, не поддаются диагонализации матрицы n-
го порядка, которые не имеют n
линейно независимых собственных векторов. Однако любая
матрица A
размера с помощью преобразования подобия может быть приведена к прямой сумме жордановых блоков
или к канонической жордановой форме
:
,
где A
– произвольная матрица размера ;
– жорданов блок размера ;
V
– некоторая невырожденная матрица размера .
Характеристическое уравнение жорданова блока размера независимо от количества единиц в верхней диагонали записывается в виде произведения одинаковых сомножителей и, следовательно, имеет только кратных корней:
.
Если выразить матрицу V
в форме вектора с компонентами в виде векторов-столбцов , то из равенства AV=VJ
для каждого жорданового блока следует соотношение
.
Здесь в зависимости от структуры верхней диагонали, в которой может быть либо ноль, либо единица. Если жордановы блоки имеют размер , то мы имеем случай симметричной матрицы или матрицы с различными собственными значениями.
При поиске решений систем линейных уравнений с несимметричными матрицами, последние стремятся теми или иными приемами свести к выражению с симметричными матрицами.
Один из возможных подходов к решению несимметричных линейных систем состоит в замене исходной системы эквивалентной системой:
.
Недостаток этого подхода состоит в том, что мера обусловленности
произведения матрицы A
на свою транспонированную, оцениваемая отношением , оказывается больше, чем у матрицы A
.
Под мерой обусловленности понимают отношение наибольшего собственного значения матрицы к наименьшему. Это отношение влияет на скорость сходимости итерационных процедур при решении уравнений.
Итак, основными алгебраическими системами уравнений можно считать неоднородные системы уравнений с симметричными матрицами коэффициентов.
Литература
1. Вержбицкий В.М. Основы численных методов: Учебник для вузов – 3-е изд. М: Высшая школа, 2009. – 840 с.
2. Самарcкий А.А. Задачи и упражнения по численным методам. Изд. 3 Изд-во: КомКнига, ЛКИ, 2006. – 208 с.
3. Турчак Л.И., Плотников П.В. Основы численных методов. Изд-во: ФИЗМАТЛИТ®, 2003. – 304 с.
4. Хеннер Е.К., Лапчик М.П., Рагулина М.И. Численные методы. Изд-во: «Академия/Academia», 2004. – 384c.
5. Чистяков С.В. Численные и качественные методы прикладной математики. СПб: 2004. – 268 с.