keil單片機(jī)C語言編程運(yùn)算遇到一個(gè)問題

ID:298743 · 發(fā)表于 2024-5-14 22:27

一個(gè)簡(jiǎn)單的代碼遇到的問題，不知道為什么我最后的temp是0x0036等于十進(jìn)制的54，按照程序邏輯應(yīng)該得到的是2998

unsigned int num = 614;
unsigned int ADC_CAL_Voltage(unsigned int n)  //ADC值轉(zhuǎn)化為電阻值
{
      return       n*5*1000/1024;    //電壓轉(zhuǎn)化成電阻
}
void main()
{
      unsigned int temp,i;

      temp=ADC_CAL_Voltage(num);

      for(i=0;i<100;i++);

}

ID:857072 · 發(fā)表于 2024-5-15 07:16

unsigned int 最大只能放65535你乘以五再乘以1000就超過直接溢出了，

ID:857072 · 發(fā)表于 2024-5-15 07:20

5×1000/1024=4.88。這個(gè)是常數(shù)，可以不用在函數(shù)里計(jì)算。所以你在函數(shù)里只需要算n×4.88結(jié)果等于2998就可以了。這樣就不會(huì)溢出了

ID:1109793 · 發(fā)表于 2024-5-15 08:03

n*5*1000的結(jié)果大于int的最大值了，溢出了。前邊加個(gè)（long）試試

ID:1080935 · 發(fā)表于 2024-5-15 08:32

數(shù)據(jù)類型問題，n=614,計(jì)算后614*5*1024=3,070,000，已經(jīng)遠(yuǎn)超65536，取余結(jié)果55344/1024=54，沒毛病。計(jì)算時(shí)在n前加long強(qiáng)制類型轉(zhuǎn)換。

ID:458247 · 發(fā)表于 2024-5-15 08:45

unsigned int ADC_CAL_Voltage(unsigned int n)  //ADC值轉(zhuǎn)化為電阻值
{
      return       n*5*1000/1024;    //電壓轉(zhuǎn)化成電阻
}

改成

unsigned int ADC_CAL_Voltage(unsigned long n)  //ADC值轉(zhuǎn)化為電阻值
{
      return       n*5*1000/1024;    //電壓轉(zhuǎn)化成電阻
}

ID:237471 · 發(fā)表于 2024-5-15 08:51

0x0036就是應(yīng)該等于十進(jìn)制的54

ID:192020 · 發(fā)表于 2024-5-15 09:09

昨天剛遇到類似問題，因?yàn)閡nsigned int是16位的，最大只能0xffff，即65535，n*5*1000/1024中應(yīng)該是在運(yùn)算n*5*1000時(shí)就溢出了，614*5*1000=0x2ED830,溢出后只保留0xD830，0xD830再除以1000剛好54

ID:421260 · 發(fā)表于 2024-5-15 09:39

把int改為long就能解決問題。

ID:879809 · 發(fā)表于 2024-5-16 22:45

這問題跟Keil毛關(guān)系都沒有，C51的int是16位的，RVMDK的int是32位的，根本就不會(huì)溢出。

帳號(hào)		自動(dòng)登錄	找回密碼
密碼			立即注冊(cè)

keil單片機(jī)C語言編程運(yùn)算遇到一個(gè)問題

瀏覽過的版塊