子串行的和 溢位問題

2021-09-11 22:09:14 字數 427 閱讀 3515

儘管學了c的基礎,也不能忽視不理紫書的語言板塊。果然還是出了問題。

題目如下:輸

入兩個正整數 n

開始的**如下,不過多虧了這個測試資料輸入n=65536,m=655360

看到10^6自然想到了比int大點的,就long吧。

#includeint g = 1;

int main()

return 0;

}

輸入之後,得到的是1.#inf0,一直以為除數不能為0故如果發生此種情況,會輸出1.#inf0,現在發現這個代表的是無窮大,也就是告訴你,它溢位了,故有兩種解決辦法。

1.將1/(i*i)→1/i/i避免i與i相乘溢位

2.long→long long

個人還是傾向於long吧,時間對於目前追求精簡的我還是更為重要的(hhh

無符號串行號溢位問題

在系統實現中,經常需要用到序列號來記錄操作執行的順序或者列印時間戳等。因為序列號等我們只取正值,所以一般都使用無符號數以表示更大的範圍。雖然一般的32位或者64位無符號數表示的範圍很大,甚至可以確保在系統的生命週期內都不會用完,但是作為乙個健壯的系統還是需要考慮無符號數達到最大後,重新歸零的溢位問題...

記憶體和棧溢位問題定位

記憶體使用率在90 以上,通過監控工具apm檢視到一台虛擬機器上應用頻繁在發生了全域性gc fullgc 導致應用假死,不在接受請求。此時登入虛擬機器 使用mat分析dump檔案 參考資料 現象 乙個後端服務,每天都出現程序死掉。並且部署了該應用的後端服務都發生過程序死掉,通過監控apm發現,每次程...

ARM 堆疊溢位問題

今天一大早就有個師弟在qq上問了我乙個問題,先把 貼出來.softwareinterrupt stmfd sp mov r1,sp mrs r3,spsr tst r3,t bit thumb mode ldrneh r0,lr,2 yes,fetch swi no.in thumb mode bi...