плавающей запятой

  • 71Типы данных — В этой статье перечисляются типы данных, о самом понятии см тип данных В различных операционных системах, языках программирования, спецификациях форматов данных фигурируют различные символические обозначения для типов данных. Часть из них… …

    Википедия

  • 72fenv.h — Стандартная библиотека языка программирования С assert.h complex.h ctype.h errno.h fenv.h float.h inttypes.h iso646.h limits.h locale.h math.h setjmp.h signal.h stdarg.h stdbool.h stddef.h …

    Википедия

  • 73НАКОПЛЕНИЕ ПОГРЕШНОСТИ — при численном решении алгебраических уравнений суммарное влияние округлений, сделанных на отдельных шагах вычислительного процесса, на точность полученного решения линейной алгебраич. системы. Наиболее распространенным способом априорной оценки… …

    Математическая энциклопедия

  • 741801BMx — 1801ВМx  серия советских 16 разрядных однокристальных микропроцессоров. Первоначально разрабатывалась[1] как однокристальная ЭВМ (микроконтроллер) 1801ВЕ1 (с собственной архитектурой «Электроника НЦ»), который в свою очередь был развитием… …

    Википедия

  • 75Длинная арифметика — Длинная арифметика  в вычислительной технике операции над числами, разрядность которых превышает длину машинного слова данной вычислительной машины. По сути арифметика с большими числами представляет собой набор алгоритмов выполнения базовых …

    Википедия

  • 76Whetstone — Whetstone  синтетический тест производительности (бенчмарк) для компьютеров.[1] Изначально написан в ноябре 1972 года на языке программирования Алгол 60 в National Physical Laboratory в Великобритании на базе статистики поведения программ,… …

    Википедия

  • 77x86 — 80486 DX2 x86 (англ. Intel 80x86)  архитектура процессора c одноимённым наборо …

    Википедия

  • 78Округление —         числа, приближённое представление числа в некоторой системе счисления с помощью конечного количества цифр. Необходимость О. диктуется потребностями вычислений, в которых, как правило, окончательный результат не может быть получен… …

    Большая советская энциклопедия

  • 79ЗАПЯТАЯ — термин, относящийся к представлению действительного числа дробью, к способу представления действительных чисел в цифровой вычислительной машине. Пусть выбрана система счисления с основанием q, и пусть для действительного числа химеет место… …

    Математическая энциклопедия

  • 80ОКРУГЛЕНИЕ — числа приближенное представление числа в нек рой системе счисления с помощью конечного количества цифр. Необходимость О. диктуется потребностями вычислений, в к рых, как правило, окончательный результат не может быть получен абсолютно точно и… …

    Математическая энциклопедия