операция с плавающей запятой

  • 1Операция (в ЦВМ) — Операция в ЦВМ, нахождение некоторой величины (элемента данных) в результате выполнения цифровой вычислительной машиной специального действия, указанного командой программы, над одной или несколькими исходными величинами. Величины, представляющие …

    Большая советская энциклопедия

  • 2Операция — I Операция (от лат. operatio действие)         1) законченное действие или ряд действий, направленных на решение определённой задачи, достижение поставленной цели, например О. военная, О. хирургическая 2) Очередное, периодически повторяющееся… …

    Большая советская энциклопедия

  • 3Число с фиксированной запятой — Число с фиксированной запятой  формат представления вещественного числа в памяти ЭВМ в виде целого числа. При этом само число x и его целочисленное представление x′ связаны формулой , где z  цена (вес) младшего разряда. Простейший… …

    Википедия

  • 4Блок операций с плавающей точкой — Математический сопроцессор 80x287 в колодке на базовой плате персонального компьютера. Сопроцессор Motorola 68881 Математический сопроцессор сопроцессор для расширения командного множества центрального процессора и обеспечивающий его… …

    Википедия

  • 5SIGFPE — Описание: Ошибочная арифметическая операция По умолчанию: завершение с дампом памяти коды SA SIGINFO FPE INTDIV Целочисленное деление на нуль FPE INTOVF Целочисленное переполнение FPE FLTDIV Деление на нуль с плавающей запятой FPE FLTOVF… …

    Википедия

  • 6Математический сопроцессор — 80x287 в колодке на базовой плате персонального компьютера …

    Википедия

  • 7Фиксированная запятая — Число с фиксированной запятой  формат представления вещественного числа в памяти ЭВМ в виде целого числа. При этом само число x и его целочисленное представление x′ связаны формулой , где z  цена (вес) младшего разряда. Простейший… …

    Википедия

  • 8Килофлопс — Производительность суперкомпьютеров Название год FLOPS флопс 1941 100 килофлопс 1949 103 мегафлопс 1964 106 гигафлопс 1987 …

    Википедия

  • 9Петафлоп — Производительность суперкомпьютеров Название год FLOPS флопс 1941 100 килофлопс 1949 103 мегафлопс 1964 106 гигафлопс 1987 …

    Википедия

  • 10Петафлопс — Производительность суперкомпьютеров Название год FLOPS флопс 1941 100 килофлопс 1949 103 мегафлопс 1964 106 гигафлопс 1987 …

    Википедия