Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой
В статье рассмотрена точность представления чисел с плавающей запятой и показаны формулы для расчета абсолютной и относительной погрешностей для бинарных и постбинарных форматов. Получены формулы для расчета погрешностей всех форматов и выявлена закономерность между значениями погрешности постбинарн...
Збережено в:
Видавець: | Інститут проблем штучного інтелекту МОН України та НАН України |
---|---|
Дата: | 2012 |
Автор: | |
Формат: | Стаття |
Мова: | Russian |
Опубліковано: |
Інститут проблем штучного інтелекту МОН України та НАН України
2012
|
Назва видання: | Штучний інтелект |
Теми: | |
Онлайн доступ: | http://dspace.nbuv.gov.ua/handle/123456789/57708 |
Теги: |
Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
|
Цитувати: | Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой / С.В. Иваница // Штучний інтелект. — 2012. — № 4. — С. 34-42. — Бібліогр.: 8 назв. — рос. |
Репозиторії
Digital Library of Periodicals of National Academy of Sciences of Ukraineid |
irk-123456789-57708 |
---|---|
record_format |
dspace |
spelling |
irk-123456789-577082014-03-14T03:01:26Z Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой Иваница, С.В. Концептуальные проблемы создания систем искусственного интеллекта В статье рассмотрена точность представления чисел с плавающей запятой и показаны формулы для расчета абсолютной и относительной погрешностей для бинарных и постбинарных форматов. Получены формулы для расчета погрешностей всех форматов и выявлена закономерность между значениями погрешности постбинарного и бинарного форматов одного класса точности. Рассмотрены стандартные способы округления чисел с плавающей запятой и предложен новый способ округления чисел в постбинарных форматах. Розглянуто точність подання чисел з рухомою комою і показані формули для розрахунку абсолютної і відносної похибок для бінарних і постбінарних форматів. Отримано формули для розрахунку похибок всіх форматів і виявлена закономірність між значеннями похибки постбінарного і бінарного форматів одного класу точності. Розглянуто стандартні способи округлення чисел з плаваючою комою і запропоновано новий спосіб округлення чисел в постбінарних форматах. In the article, precision of floating point numbers are considered, the formulas for calculating of the absolute and relative errors for binary and postbinary formats are shown. The formulas for calculating the errors of all sizes and pattern are obtained, rules for values of error of postbinary and binary formats one class of accuracy are found. Standard methods of rounding floating point numbers are considered. New method of number rounding in postbinary formats is proposed. 2012 Article Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой / С.В. Иваница // Штучний інтелект. — 2012. — № 4. — С. 34-42. — Бібліогр.: 8 назв. — рос. 1561-5359 http://dspace.nbuv.gov.ua/handle/123456789/57708 004.622:004.222.3:004.222.5 ru Штучний інтелект Інститут проблем штучного інтелекту МОН України та НАН України |
institution |
Digital Library of Periodicals of National Academy of Sciences of Ukraine |
collection |
DSpace DC |
language |
Russian |
topic |
Концептуальные проблемы создания систем искусственного интеллекта Концептуальные проблемы создания систем искусственного интеллекта |
spellingShingle |
Концептуальные проблемы создания систем искусственного интеллекта Концептуальные проблемы создания систем искусственного интеллекта Иваница, С.В. Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой Штучний інтелект |
description |
В статье рассмотрена точность представления чисел с плавающей запятой и показаны формулы для расчета абсолютной и относительной погрешностей для бинарных и постбинарных форматов. Получены формулы для расчета погрешностей всех форматов и выявлена закономерность между значениями погрешности постбинарного и бинарного форматов одного класса точности. Рассмотрены стандартные способы округления чисел с плавающей запятой и предложен новый способ округления чисел в постбинарных форматах. |
format |
Article |
author |
Иваница, С.В. |
author_facet |
Иваница, С.В. |
author_sort |
Иваница, С.В. |
title |
Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой |
title_short |
Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой |
title_full |
Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой |
title_fullStr |
Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой |
title_full_unstemmed |
Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой |
title_sort |
оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой |
publisher |
Інститут проблем штучного інтелекту МОН України та НАН України |
publishDate |
2012 |
topic_facet |
Концептуальные проблемы создания систем искусственного интеллекта |
url |
http://dspace.nbuv.gov.ua/handle/123456789/57708 |
citation_txt |
Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой / С.В. Иваница // Штучний інтелект. — 2012. — № 4. — С. 34-42. — Бібліогр.: 8 назв. — рос. |
series |
Штучний інтелект |
work_keys_str_mv |
AT ivanicasv ocenkapogrešnostipredstavleniâveŝestvennyhčiselvpostbinarnyhformatahsplavaûŝejzapâtoj |
first_indexed |
2023-10-18T18:30:29Z |
last_indexed |
2023-10-18T18:30:29Z |
_version_ |
1796144399611068416 |