MATLAB eps (浮點相對精度)簡介

2021-08-29 02:54:26 字數 2763 閱讀 7011

目錄

epssyntax

description

accuracy in double precision

accuracy in single precision

floating-point relative accuracy

d = eps

d = eps(x)

d = eps(datatype)

d = epsreturns the distance from1.0to the next larger double-precision number, that is,

d = eps返回從1.0到下乙個更大的雙精度數的距離,即

d = eps(x), wherexhas data typesingleordouble, returns the positive distance fromabs(x)to the next larger floating-point number of the same precision asx. ifxhas typeduration, theneps(x)returns the next largerdurationvalue. the commandeps(1.0)is equivalent toeps.

d = eps(x),其中x具有資料型別single或double,返回從abs(x)到下乙個與x相同精度的較大浮點數的正距離。 如果x具有typeduration,則eps(x)返回下乙個更大的持續時間值。 命令eps(1.0)等同於eps。

d = eps(datatype) returnsepsaccording to the data type specified bydatatype, which can be either'double'or'single'. the syntaxeps('double')(default) is equivalent toeps, andeps('single')is equivalent toeps(single(1.0)).

d = eps(datatype)根據datatype指定的資料型別返回eps,資料型別可以是「double」或「single」。 語法eps('double')(預設)等同於eps,eps('single')等同於eps(single(1.0))。

clc

clear

close all

% display the distance from 1.0 to the next largest double-precision number.

d = eps

% d = 2.2204e-16

% eps is equivalent to eps(1.0) and eps('double').

% compute log2(eps).

d = log2(eps)

% d = -52

% in base 2, eps is equal to 2^-52.

% % find the distance from 10.0 to the next largest double-precision number.

d = eps(10.0)

% d = 1.7764e-15

結果如下:

d =2.2204e-16

d =-52

d =1.7764e-15

clc

clear

close all

% display the distance from 1.0 to the next largest single-precision number.

d = eps('single')

% d = single

% 1.1921e-07

% eps('single') is equivalent to eps(single(1.0)).

% compute log2(eps('single')).

d = log2(eps('single'))

% d = single

% -23

% in base 2, single-precision eps is equal to 2^-23.

% find the distance from the single-precision representation of 10.0 to the next largest single-precision number.

d = eps(single(10.0))

% d = single

% 9.5367e-07

結果如下:

d =single

1.1921e-07

d =single

-23d =

single

9.5367e-07

浮點型精度分析

科學計數法1.233e23,e大概是exponent指數,階碼。分為三部分,整數部分為1的因數,e是進製階數,後邊是指數二進位制和十進位制轉換 二進位制轉10進製自然語言中以十進位制為主,將十進位製作為基座標更加容易理解 例二進位制 1.1 十進位制 加權係數展開 整數部分 1 2 小數部分 1 2...

php浮點精度問題

在php中,浮點數的字長和平台相關,通常最大值是 1.8e308 並具有 14 位十進位制數字的精度 64 位 ieee 格式 浮點數的精度有限。儘管取決於系統,php 通常使用 ieee 754 雙精度格式,則由於取整而導致的最大相對誤差為 1.11e 16。非基本數 算可能會給出更大誤差,並且要...

深入了解浮點精度(四。嚴格精度的浮點運算)

上一章 深入了解浮點精度 三。浮點不準確 如果你不嚴謹要求的話,浮點型別自身的運算可以滿足一些基本的需要,但對於財務問題恐怕就不行了。為什麼呢?比如說double 100 99.999999999998 那麼在購買的時候,乙個商品賣了100元,你支付完成後,發現只支付了99.9999999998,這...