вычисление с плавающей запятой

  • 1Быстрый инверсный квадратный корень — Вычисление освещения и отражения (показано на примере шутер от первого лица OpenArena) использует в коде быстрый инверсный квадратный корень для вычисления углов падения и отражения. Быстрый инверсный квадратный корень (иногда называемый Быстрый… …

    Википедия

  • 2Быстрый обратный квадратный корень — Вычисление освещения и отражения (показано на примере шутера от первого лица OpenArena) использует в коде быстрый инверсный квадратный корень для вычисления углов падения и отражения …

    Википедия

  • 3Математический сопроцессор — 80x287 в колодке на базовой плате персонального компьютера …

    Википедия

  • 4Таблица поиска — (англ. lookup table)  это структура данных, обычно массив или ассоциативный массив, используемая с целью заменить вычисления на операцию простого поиска. Увеличение скорости может быть значительным, так как получить данные из памяти… …

    Википедия

  • 5SuperCalc — 320px Загрузочный экран SuperCalc 5 Тип Электронная таблица Разработчик Sorcim, Computer Associates Операционная система CP/M, MS DOS, Apple DOS, Windows, VAX/VMS, S/360 Пер …

    Википедия

  • 6NetBurst — (рабочее название P68) суперскалярная гиперконвейерная микроархитектура, разработанная компанией Intel и лежавшая в основе микропроцессоров Pentium 4, Pentium D, Celeron и Xeon. Содержание 1 История 2 …

    Википедия

  • 7NaN — (англ. Not a Number)  одно из особых состояний числа с плавающей запятой. В соответствии с IEEE 754, такое состояние задаётся через установку показателя степени в зарезервированное значение. Используется во многих математических… …

    Википедия

  • 8Python — У этого термина существуют и другие значения, см. Python (значения). Python Класс языка: му …

    Википедия

  • 9Алгоритм Кэхэна — В вычислительной математике алгоритм Кэхэна (также известный как компенсационное суммирование)  это алгоритм вычисления суммы последовательности чисел c плавающей запятой, который значительно уменьшает вычислительную погрешность по сравнению …

    Википедия

  • 10Калькулятор — У этого термина существуют и другие значения, см. Калькулятор (значения). Современный инженерный калькулятор Калькулятор …

    Википедия