C++隐式类型转换问题

问题描述:隐式类型转换问题

cpp 复制代码
if (optimize_param.dynamic_lds_size > 64UL * 1024UL)

这里在64后面加上UL表示"usigned long"类型的常量,为了防止在计算或者比较过程中出现类型转换的问题。

举例说明隐式类型转换问题

cpp 复制代码
#include <iostream>

int main(int argc, char const *argv[])
{
    unsigned int a = 10000U;
    int b = -1;
    /*
    详细说明:-1在计算机中以二进制补码的方式存储,即 1111 1111 1111 1111 1111 1111 1111 1111。
    int b = -1;        将 1111 1111 1111 1111 1111 1111 1111 1111 按照int类型解释,即-1
    转成unsigned int即,将 1111 1111 1111 1111 1111 1111 1111 1111 按照unsigned int类型解释,即4,294,967,295
    */
    if (a > b) // 这里进行比较的时候,b隐式的转成了a的类型unsigned int类型。即:b 变成 2^32大小
    {
        std::cout << "a > b" << std::endl;
    }
    else
    {
        std::cout << "a < b" << std::endl;
    }
    
    return 0;
}

修改方案:使用显式类型转换

隐式类型转换可能导致二进制解释的不一致,显示类型转换是让数据表示类型一致。

隐式类型转换中特别是 有符号和无符号之间得转换 会有二进制解释得问题。

cpp 复制代码
#include <iostream>

int main(int argc, char const *argv[])
{
    unsigned int a = 10000U;
    // int b = -1;
    int b = static_cast<unsigned int>(-1); //使用显式类型转换避免隐式类型转换存在的问题

    if (a > b)
    {
        std::cout << "a > b" << std::endl;
    }
    else
    {
        std::cout << "a < b" << std::endl;
    }
    
    return 0;
}
相关推荐
&岁月不待人&18 分钟前
Kotlin by lazy和lateinit的使用及区别
android·开发语言·kotlin
StayInLove21 分钟前
G1垃圾回收器日志详解
java·开发语言
无尽的大道29 分钟前
Java字符串深度解析:String的实现、常量池与性能优化
java·开发语言·性能优化
爱吃生蚝的于勒33 分钟前
深入学习指针(5)!!!!!!!!!!!!!!!
c语言·开发语言·数据结构·学习·计算机网络·算法
羊小猪~~36 分钟前
数据结构C语言描述2(图文结合)--有头单链表,无头单链表(两种方法),链表反转、有序链表构建、排序等操作,考研可看
c语言·数据结构·c++·考研·算法·链表·visual studio
binishuaio42 分钟前
Java 第11天 (git版本控制器基础用法)
java·开发语言·git
zz.YE44 分钟前
【Java SE】StringBuffer
java·开发语言
就是有点傻1 小时前
WPF中的依赖属性
开发语言·wpf
洋2401 小时前
C语言常用标准库函数
c语言·开发语言
进击的六角龙1 小时前
Python中处理Excel的基本概念(如工作簿、工作表等)
开发语言·python·excel