OC中运算符`/`带来的问题

问题描述:
看下面代码,猜测一下运行结果?

    NSInteger m1 = 100;
    NSInteger m2 = -100;
    NSUInteger n = 2;
    
    NSLog(@"m1 / n = %ld", m1 / n);
    NSLog(@"m2 / n = %ld", m2 / n);

问题分析:
这个问题看似很简单,但是却存在一个坑,稍不注意就会掉进去。
上面代码的输出结果为:

m1 / n = 50
m2 / n = 9223372036854775758

那么,为什么m2 / n不等于-50呢?如果这样打印NSLog(@"m2 = %lu", m2);又会输出什么呢?
实际上,NSLog(@"m2 = %lu", m2);的输出结果为:m2 = 18446744073709551516

到这里,你应该已经想到是怎么回事了,这个就是OC中运算符类型的自动提升功能导致的。m2 / n在计算中会先将m2转换为NSUInteger类型再进行计算。

解决办法:
我们想得到的结果是m2 / n = -50,所以需要对n做类型转换,将m2 / n改为m2 / (NSInteger)n即可。

转载于:https://www.jianshu.com/p/d254341f0276

猜你喜欢

转载自blog.csdn.net/weixin_33811961/article/details/91231467