Ошибка округления это:

Ошибка округления
(математика)
        абсолютное значение разности данного числа а и числа а*, получающегося в результате округления (См. Округление) а.

Большая советская энциклопедия. — М.: Советская энциклопедия. 1969—1978.

Смотреть что такое "Ошибка округления" в других словарях:

  • ОШИБКА ОКРУГЛЕНИЯ — (rounding error) Ошибка, возникающая при округлении чисел по сравнению с данными первоначальных вычислений или измерений. При сложении двух или более округленных чисел их общая округленная сумма может не совпасть с суммой исходных слагаемых.… …   Экономический словарь

  • ошибка округления — — [http://www.iks media.ru/glossary/index.html?glossid=2400324] Тематики электросвязь, основные понятия EN roundoff error …   Справочник технического переводчика

  • ошибка округления — погрешность, возникающая при квантовании в результате округления амплитуды сигнала до ближайшего уровня квантования. Причина возникновения шума квантования …   Русский индекс к Англо-русскому словарь по музыкальной терминологии

  • ошибка отбрасывания — ошибка округления ошибка усечения погрешность отбрасывания — [Л.Г.Суменко. Англо русский словарь по информационным технологиям. М.: ГП ЦНИИС, 2003.] Тематики информационные технологии в целом Синонимы ошибка округленияошибка… …   Справочник технического переводчика

  • ошибка отбрасывания (члена формулы) — погрешность метода (формулы) ошибка округления — [Л.Г.Суменко. Англо русский словарь по информационным технологиям. М.: ГП ЦНИИС, 2003.] Тематики информационные технологии в целом Синонимы погрешность метода (формулы)ошибка округления EN… …   Справочник технического переводчика

  • ошибка в результате округления — — [А.С.Гольдберг. Англо русский энергетический словарь. 2006 г.] Тематики энергетика в целом EN round off error …   Справочник технического переводчика

  • Ошибка квантования — Шум квантования  ошибки, возникающие при оцифровке аналогового сигнала. В зависимости от типа аналого цифрового преобразования могут возникать из за округления (до определённого разряда) сигнала или усечения (отбрасывания младших разрядов)… …   Википедия

  • НАКОПЛЕНИЕ ПОГРЕШНОСТИ — при численном решении алгебраических уравнений суммарное влияние округлений, сделанных на отдельных шагах вычислительного процесса, на точность полученного решения линейной алгебраич. системы. Наиболее распространенным способом априорной оценки… …   Математическая энциклопедия

  • Погрешность измерения — Сюда перенаправляется запрос «Относительная точность». На эту тему нужна отдельная статья. Сюда перенаправляется запрос «Абсолютная то …   Википедия

  • Гибридный компьютер — У этого термина существуют и другие значения, см. Гибридная вычислительная система. Гибридный компьютер, гибридная вычислительная машина, аналого цифровая система  вид гибридной вычислительной системы (ГВС), сочетающий в себе свойства… …   Википедия


Поделиться ссылкой на выделенное

Прямая ссылка:
Нажмите правой клавишей мыши и выберите «Копировать ссылку»