На практике кроме существования и единственности решения важна еще устойчивость относительно погрешностей правой части и элементов матрицы. Формально перепишем линейную систему в виде . Варьируя это равенство и определяя вариацию обратной матрицы из соотношения получим
Формально устойчивость есть, ибо при обратная матрица существует. Но если матрица имеет большие элементы, то можно указать такой вид погрешности исходных данных, который сильно изменит решение. В этом случае систему называют плохо обусловленной (по-видимому, плохая обусловленность была известна еще Гауссу). Очевидно, у плохо обусловленных систем однако заметим, что этот признак плохой обусловленности является необходимым, но недостаточным.
Плохо обусловленная система геометрически соответствует почти параллельным прямым. При этом небольшое изменение наклона или сдвиг одной прямой сильно меняют положение точки пересечения (рис. 24, пунктир). В многомерном случае геометрическая картина может быть более сложной. Так, для трех переменных возможен случай плохой обусловленности, когда соответствующие трем уравнениям плоскости пересекаются под большими углами (т. е. далеки от параллельности), но линии их попарного пересечения почти параллельны.
В теоретических исследованиях обусловленность часто характеризуют числом Это число зависит от того, какая норма - матриц выбрана, но при любой норме Чем больше это число, тем хуже обусловленность системы; обычно уже означает плохую обусловленность.
В практических расчетах этим определением плохой обусловленности пользуются редко, ибо для его проверки надо находить обратную матрицу, что при плохо обусловленной матрице А нелегко сделать. Чаще ограничиваются проверкой условия хотя оно является необходимым, но недостаточным, что видно из простого примера. Положим , где — единичная матрица; тогда и даже при не очень малых детерминант высокого порядка очень мал. Но система с диагональной матрицей хорошо обусловлена, и для нее критерий наиболее благоприятен.
Методы решения линейных систем делятся на прямые и итерационные. Прямые методы дают решение за конечное число действий, просты и наиболее универсальны; они рассматриваются в этом параграфе. Для систем небольшого порядка применяются практически только прямые методы. Итерационные методы приведены в § 3; они выгодны для систем специального вида, со слабо заполненной матрицей очень большого порядка Сравнительно недавно для решения плохо обусловленных систем стали применять методы регуляризации.