плавающая запятая

  • 11Числа с плавающей запятой — Плавающая запятая  форма представления действительных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Наиболее… …

    Википедия

  • 12Машинный эпсилон — Плавающая запятая форма представления дробных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Наиболее часто… …

    Википедия

  • 13Числа с плавающей точкой — Плавающая запятая форма представления дробных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Наиболее часто… …

    Википедия

  • 14Число с плавающей запятой — Число с плавающей запятой  форма представления действительных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную.… …

    Википедия

  • 15Вычислительная устойчивость — У этого термина существуют и другие значения, см. устойчивость. Определение В вычислительной математике большое значение имеет чувствительность решения к малым изменениям входных данных. Задача называется вычислительно неустойчивой, если малые… …

    Википедия

  • 16Численная устойчивость — Определение В вычислительной математике большое значение имеет чувствительность решения к малым изменениям входных данных. Задача называется вычислительно неустойчивой, если малые изменения входных данных приводят к заметным изменениям решения.… …

    Википедия

  • 17Дополнительный код (представление числа) — У этого термина существуют и другие значения, см. Дополнительный код. Дополнительный код (англ. two’s complement, иногда twos complement) наиболее распространённый способ представления отрицательных целых чисел в компьютерах. Он позволяет… …

    Википедия

  • 18NaN — (англ. Not a Number)  одно из особых состояний числа с плавающей запятой. В соответствии с IEEE 754, такое состояние задаётся через установку показателя степени в зарезервированное значение. Используется во многих математических… …

    Википедия

  • 19SIGFPE — Описание: Ошибочная арифметическая операция По умолчанию: завершение с дампом памяти коды SA SIGINFO FPE INTDIV Целочисленное деление на нуль FPE INTOVF Целочисленное переполнение FPE FLTDIV Деление на нуль с плавающей запятой FPE FLTOVF… …

    Википедия

  • 20Robotron EC1832 — Персональный Компьютер производства Болгарии ИЗОТ конца 198Х годов. IBM XT совместимый (не уверен что полностю). Плата EC1832.1001 04 : CPU Центральное процессорное устройство. Имеет на лицевой панели разьем DB 9 мама для подключения XT… …

    Википедия