標(biāo)題:
keil單片機(jī)C語言編程運(yùn)算遇到一個問題
[打印本頁]
作者:
asdadqw2
時間:
2024-5-14 22:27
標(biāo)題:
keil單片機(jī)C語言編程運(yùn)算遇到一個問題
一個簡單的代碼遇到的問題，不知道為什么我最后的temp是0x0036等于十進(jìn)制的54，按照程序邏輯應(yīng)該得到的是2998
unsigned int num = 614;
unsigned int ADC_CAL_Voltage(unsigned int n) //ADC值轉(zhuǎn)化為電阻值
{
return n*5*1000/1024; //電壓轉(zhuǎn)化成電阻
}
void main()
{
unsigned int temp,i;
temp=ADC_CAL_Voltage(num);
for(i=0;i<100;i++);
}
作者:
a185980800
時間:
2024-5-15 07:16
unsigned int 最大只能放65535你乘以五再乘以1000就超過直接溢出了，
作者:
a185980800
時間:
2024-5-15 07:20
5×1000/1024=4.88。這個是常數(shù)，可以不用在函數(shù)里計算。所以你在函數(shù)里只需要算n×4.88結(jié)果等于2998就可以了。這樣就不會溢出了
作者:
xiaobendan001
時間:
2024-5-15 08:03
n*5*1000的結(jié)果大于int的最大值了，溢出了。前邊加個（long）試試
作者:
LaoYuTou
時間:
2024-5-15 08:32
數(shù)據(jù)類型問題，n=614,計算后614*5*1024=3,070,000，已經(jīng)遠(yuǎn)超65536，取余結(jié)果55344/1024=54，沒毛病。計算時在n前加long強(qiáng)制類型轉(zhuǎn)換。
作者:
yzw846562238
時間:
2024-5-15 08:45
unsigned int ADC_CAL_Voltage(unsigned int n) //ADC值轉(zhuǎn)化為電阻值
{
return n*5*1000/1024; //電壓轉(zhuǎn)化成電阻
}
改成
unsigned int ADC_CAL_Voltage(unsigned long n) //ADC值轉(zhuǎn)化為電阻值
{
return n*5*1000/1024; //電壓轉(zhuǎn)化成電阻
}
作者:
lxh2002
時間:
2024-5-15 08:51
0x0036就是應(yīng)該等于十進(jìn)制的54
作者:
Graves
時間:
2024-5-15 09:09
昨天剛遇到類似問題，因為unsigned int是16位的，最大只能0xffff，即65535，n*5*1000/1024中應(yīng)該是在運(yùn)算n*5*1000時就溢出了，614*5*1000=0x2ED830,溢出后只保留0xD830，0xD830再除以1000剛好54
作者:
szqinyi
時間:
2024-5-15 09:39
把int改為long就能解決問題。
作者:
rundstedt
時間:
2024-5-16 22:45
這問題跟Keil毛關(guān)系都沒有，C51的int是16位的，RVMDK的int是32位的，根本就不會溢出。
歡迎光臨 (http://www.torrancerestoration.com/bbs/)
Powered by Discuz! X3.1