頭一次遇到這麼奇怪的事,百思不得其解!

2021-09-08 15:27:39 字數 800 閱讀 1123

頭一次遇到這麼奇怪的事,百思不得其解! delphi / windows sdk/api

procedure   tform1.button1click(sender:   tobject);  

var   xs,yg,z:double;  

begin  

xs:=0.022;  

yg:=1.25;  

z:=round(xs*yg*power(10,3))/power(10,3);  

showmessage(floattostr(z));  

end;    

這個得到是0.027  

\\\\\\\\\\\\\\\\\\\\\\\\\  

procedure   tform1.button1click(sender:   tobject);  

var   z:double;  

begin  

z:=round(1.25*0.022*power(10,3))/power(10,3);  

showmessage(floattostr(z));  

end;    

這個得到是0.028

哪位老大幫幫我?

這個問題可能是round浮點數計算精度問題,估計用常數時自動分配的變數精度比double高的緣故。可是摟住使用的變數都是double,為什麼要在運算中間作個四捨五入呢,去掉round,2個運算表示式結果是一樣的0.0275

可是我需要保留三位小數呀大俠,咋辦?

這個是由於double的精度引起的,改用extended就可以了

記一次npm的奇怪bug

近幾天npm不知怎麼了不能安裝包了,連cnpm都不能安裝了,於是開始開 ku 心 bi 的除錯。網上的方法基本上全都試過了,結果出現了這個東西 這是讓我刮獎嗎?google一下,還真有這樣的錯誤,好像是埠被占用了。好嗎,三下五除二改下埠,發現還是不行。仔細觀察發現網上貼出來的錯誤跟我的錯誤還不一樣,...

搞定一次奇怪的網路風暴

昨天乙個部門的網路公升級,將原來所有級聯的hub換成100m交換機。問題來了。事情不是我做的,但是人家急急忙忙跑來要求技術support。無語,過去。看了一下,一字排開。還是很鄙視hub的。sw1 sw2 sw3 sw4 core sw 換上的交換機sw4狂閃。大家的網路都不正常,表示無法訪問伺服器...

記一次python安裝PIL庫所遇到的事

自學python,要用到pil這個很出名的庫,那就安裝唄 大家都知道python下,用easy install命令安裝特簡單,命令如下 好吧,這樣我們安裝完了,我們再去 python home lib site packages資料夾下看看是否已經有對用的庫檔案了 好的,如上圖所示,也已經有了,對了...