浮點型數和整型數之間的運算小問題

2021-08-14 18:41:29 字數 550 閱讀 1866

在運算時候,乙個整型數與乙個浮點數進行計算時,他的返回結果是浮點型,(你可以理解這個整型數先被編譯器變成了浮點型數,再和那個浮點型數進行計算),如果你把這個浮點型的結果在賦值給乙個整型數,那麼這個結果就會再轉換成整型數(轉換結果只取了浮點型的整數部分),如果你直接輸出乙個整型數與乙個浮點型數的運算結果,那麼他的輸出就是浮點型的。

所以這個細節要注意。(加減乘除都一樣,我都試過了,舉一下乘法例子)

具體見下面程式。

上面我只舉了乙個整型數和0.5相乘的情況,第一張圖錯誤的輸出結果是0,但不要認為這樣的運算,錯誤結果都是0;換成了別的數後就錯的更離譜了。如下圖。

所以,就是知道那樣輸出錯誤就行。

JS整型和浮點型,三元運算子

parseint parsefloat var a 12g console.log parseint a console.log parsefloat a var d 12.3 console.log parseint d console.log parsefloat d 遇到第乙個位元組是非數字就...

MATLAB的資料型別整型和浮點型

可以看出matlab的數值型別跟c語言一樣分為整型和浮點型,但是需要特別注意的是,它的用意和c語言完全不一樣。前者的整型資料主要為影象處理等特殊的應用問題提供資料型別,而對於一般數值運算,絕大多數是採用雙精度浮點型的資料。8種整數型別 整數型別 數值型別 轉換函式 有符號8位 2 7 2 7 1 i...

序列通訊中浮點數和整型數的處理辦法

序列通訊中浮點數和整型數的處理辦法 序列通訊中浮點數和整型數的處理辦法 序列通訊是以位元組為單位進行傳送的,對於浮點數和整型數都需要進行轉換才能進行通訊。mcu和pc的浮點數都是基於ieee754格式的。有4位元組 float 8位元組 double 10位元組 有一些不支援 這裡以4位元組 flo...