Определение.Вычислительный алгоритм - точное предписание действий над входными данными, задающее вычислительный процесс, направленный на преобразование произвольных входных данных в полностью определенный этими входными данными результат.
Определение.Вычислительный алгоритм называется корректным, если:
Он позволяет после выполнения конечного числа элементарных для вычислительной машины операций преобразовать любое входное в результат .
Результат устойчив по отношению к малым возмущениям входных данных.
Результат обладает вычислительной устойчивостью.
Пункт 2 - это устойчивость по входным данным. Означает то, что результат непрерывным образом зависит от входных данных при условии, что отсутствует вычислительная погрешность.
Определение.Алгоритм называется вычислительно устойчивым, если вычислительная погрешность результата стремится к нулю при ( - машинная погрешность)
Если алгоритм устойчив по входным данным и вычислительно устойчив, то он называется устойчивым.
Определение.Вычислительный алгоритм называют хорошо обусловленным, если малые относительные погрешности округления (характеризуемые числом ) приводят к малой относительной вычислительной погрешности результата
Если , то - число обусловленности алгоритма. Алгоритм плохо обусловлен, если .