|
有時(shí)候計(jì)算溢出,但是程序編譯不會(huì)報(bào)錯(cuò),昨天在客戶現(xiàn)場(chǎng)調(diào)試,10位的數(shù)字,這10位數(shù)字大小且不會(huì)超過0XFFFFFFFF,變成四個(gè)字節(jié)的16進(jìn)制,然后每個(gè)字節(jié)再由低到高的輸出。一開始試了幾個(gè),以為OK了,正好碰到一個(gè),就一位數(shù)字出現(xiàn)了異常。
假設(shè)一個(gè)十位數(shù)字:1234787890,9*10,8*100,7*1000都是自動(dòng)默認(rèn)轉(zhuǎn)成INT變量的,8*10000超過65535,系統(tǒng)編譯后還是默認(rèn)INT的,這里要加強(qiáng)制轉(zhuǎn)換成LONG INT,是很容易疏忽的一個(gè)地方,7*100000,因?yàn)?00000已經(jīng)是LONG INT了,所以出來的臨時(shí)數(shù)據(jù)默認(rèn)也是LONG INT,如果計(jì)算時(shí)前面全部強(qiáng)制轉(zhuǎn)換成LONG INT也就不會(huì)出現(xiàn)這個(gè)問題了。
|
|