NUMBER型別細講

2021-08-30 09:42:37 字數 2056 閱讀 6500

1>.number型別細講:

oracle number datatype 語法:number[(precision [, scale])]

簡稱:precision --> p

scale     --> s

number(p, s)

範圍: 1 <= p <=38, -84 <= s <= 127

儲存資料範圍:-1.0e-130 <= number value < 1.0e+126    

儲存在機器內部的範圍: 1 ~ 22 bytes

有效為:從左邊第乙個不為0的數算起的位數。

s的情況:

s > 0

精確到小數點右邊s位,並四捨五入。然後檢驗有效位是否 <= p。

s < 0

精確到小數點左邊s位,並四捨五入。然後檢驗有效位是否 <= p + |s|。

s = 0

此時number表示整數。  

eg:actual data   specified as  stored as

----------------------------------------

123.89           number         123.89

123.89           number(3)     124

123.89           number(6,2)   123.89

123.89           number(6,1)   123.9

123.89           number(4,2)   exceeds precision (有效位為5, 5 > 4)

123.89           number(6,-2)  100

.01234           number(4,5)   .01234 (有效位為4)

.00012           number(4,5)   .00012

.000127       number(4,5)   .00013

.0000012      number(2,7)   .0000012

.00000123     number(2,7)   .0000012

1.2e-4           number(2,5)   0.00012

1.2e-5           number(2,5)   0.00001

123.2564      number        123.2564

1234.9876     number(6,2)   1234.99

12345.12345   number(6,2)   error (有效位為5+2 > 6)

1234.9876     number(6)     1235 (s沒有表示s=0)

12345.345     number(5,-2)  12300

1234567       number(5,-2)  1234600

12345678      number(5,-2)  error (有效位為8 > 7)

123456789     number(5,-4)  123460000

1234567890    number(5,-4)  error (有效位為10 > 9)

12345.58      number(*, 1)  12345.6

0.1           number(4,5)   error (0.10000, 有效位為5 > 4)

0.01234567    number(4,5)   0.01235

0.09999       number(4,5)   0.09999

定點數的精度(p)和刻度(s)遵循以下規則:

        當乙個數的整數部分的長度 > p-s 時,oracle就會報錯

        當乙個數的小數部分的長度 > s 時,oracle就會捨入。

        當s(scale)為負數時,oracle就對小數點左邊的s個數字進行捨入。

        當s > p 時, p表示小數點後第s位向左最多可以有多少位數字,如果大於p則oracle報錯,小數點後s位向右的數字被捨入

Oracle NUMBER型別細講

1 number型別細講 oracle number datatype 語法 number precision scale 簡稱 precision p scale s number p,s 範圍 1 p 38,84 s 127 儲存資料範圍 1.0e 130 number value 1.0e 1...

Bagging演算法細講

bagging演算法 讓該學習演算法訓練多輪,每輪的訓練集由從初始的訓練集中隨機取出的n個訓練樣本組成,某個初始訓練樣本在某輪訓練集中可以出現多次或根本不出現,訓練之後可得到乙個 函式序列h 1,h n 最終的 函式h對分類問題採用投票方式,對回歸問題採用簡單平均方法對新示例進行判別。思想 1 從原...

細講UIImage載入方式

原文 關於本地uiimage的載入問題,還是需要注意的。不同的載入處理方式,在效率和效能上還是有差異的。今天,我們來講講uiimage的載入應該選擇什麼樣的api來載入!這兩種api分別是 大量使用 initwithcontentsoffile 方式來載入,會增加cpu的開銷,所以我們需要根據特定場...