- Ошибка округления
-
(математика)
абсолютное значение разности данного числа а и числа а*, получающегося в результате округления (См. Округление) а.
Большая советская энциклопедия. — М.: Советская энциклопедия. 1969—1978.
Ошибка округления
Смотреть что такое "Ошибка округления" в других словарях:
ОШИБКА ОКРУГЛЕНИЯ — (rounding error) Ошибка, возникающая при округлении чисел по сравнению с данными первоначальных вычислений или измерений. При сложении двух или более округленных чисел их общая округленная сумма может не совпасть с суммой исходных слагаемых.… … Экономический словарь
ошибка округления — — [http://www.iks media.ru/glossary/index.html?glossid=2400324] Тематики электросвязь, основные понятия EN roundoff error … Справочник технического переводчика
ошибка округления — погрешность, возникающая при квантовании в результате округления амплитуды сигнала до ближайшего уровня квантования. Причина возникновения шума квантования … Русский индекс к Англо-русскому словарь по музыкальной терминологии
ошибка отбрасывания — ошибка округления ошибка усечения погрешность отбрасывания — [Л.Г.Суменко. Англо русский словарь по информационным технологиям. М.: ГП ЦНИИС, 2003.] Тематики информационные технологии в целом Синонимы ошибка округленияошибка… … Справочник технического переводчика
ошибка отбрасывания (члена формулы) — погрешность метода (формулы) ошибка округления — [Л.Г.Суменко. Англо русский словарь по информационным технологиям. М.: ГП ЦНИИС, 2003.] Тематики информационные технологии в целом Синонимы погрешность метода (формулы)ошибка округления EN… … Справочник технического переводчика
ошибка в результате округления — — [А.С.Гольдберг. Англо русский энергетический словарь. 2006 г.] Тематики энергетика в целом EN round off error … Справочник технического переводчика
Ошибка квантования — Шум квантования ошибки, возникающие при оцифровке аналогового сигнала. В зависимости от типа аналого цифрового преобразования могут возникать из за округления (до определённого разряда) сигнала или усечения (отбрасывания младших разрядов)… … Википедия
НАКОПЛЕНИЕ ПОГРЕШНОСТИ — при численном решении алгебраических уравнений суммарное влияние округлений, сделанных на отдельных шагах вычислительного процесса, на точность полученного решения линейной алгебраич. системы. Наиболее распространенным способом априорной оценки… … Математическая энциклопедия
Погрешность измерения — Сюда перенаправляется запрос «Относительная точность». На эту тему нужна отдельная статья. Сюда перенаправляется запрос «Абсолютная то … Википедия
Гибридный компьютер — У этого термина существуют и другие значения, см. Гибридная вычислительная система. Гибридный компьютер, гибридная вычислительная машина, аналого цифровая система вид гибридной вычислительной системы (ГВС), сочетающий в себе свойства… … Википедия
