讓你抓狂的Decimal

2021-08-25 07:33:10 字數 543 閱讀 2370

使用decimal模組的時候,有些問題會讓你抓狂。

from decimal import *

dec =  decimal('0.00000000000000') * decimal('-0.002000000')

print dec

dec =  decimal('0.00000000000000') / decimal('-0.0020000000002')

print dec

結果竟然是

-0e-23

-0.0

很顯然,我不期待這個結果。只能修改decimal模組了。

在精度不足的情況下,會使用科學記數法:

getcontext().prec = 2

a = decimal('493.00')

b = decimal('201.00')

print a - b

結果是2.9e+2,也就是290

還是預設精度吧。

也可以在進行乘法或者除法時候,轉換為float計算,結果再轉換為decimal,不過,寫的**會很**。

讓人抓狂HTML DTD

在做網頁時,經常會遇到一些瀏覽器差異的問題,即使你對常見瀏覽器差異有些知識儲備,但你死活也修改不好。我就遇到幾個這樣的問題。兩個div之間在ie下有幾個畫素的空白,乙個div莫名其妙的高度變高兩個畫素。雖然都是小問題,但是不解決心理總覺得彆扭。這些bug改起來很讓人抓狂。最後把替換為,問題就消失了,...

Oh 讓人抓狂的git

原文 oh git 譯者 傑微刊兼職譯者張帆 git很難 因為搞砸了很容易,但是找到如何修復錯誤的方法缺很難。git官方的文件,存在 先有雞還是先有蛋 的問題 除非你知道解決問題的方法的特定名字,否則很難查詢到解決方案並順利的解決自己的問題。所以,下面是我自己曾經遇到的一些十分糟糕的場景,並且我最終...

讓人抓狂的縮排衝突 eslint

原本在開開心心地寫著 然鵝格式化後居然有一處 eslint 提示報錯,說我的縮排有問題,刪除多餘的縮排後,再格式化又變成了之前那樣!其它地方都沒問題,為啥就那一小塊會報錯呢?專案使用了 prettier 進行自動格式化,eslint 來進行檢查報錯,可是這倆貌似有世仇,不能好好相處。廢話不多說了,直...