- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
python四舍五入,颠覆你的想象
刘金玉
编程
零基础Python教程
#019
复习
进制转换
Hex函数:转十六进制
Int(参数1,参数2)函数,参数1实际的字符串数值,参数2是表示几进制数
Oct函数,转为八进制
Bin函数,转为二进制
四舍五入并非数值运算中想象的那样
出现错误的情况,是由于
二进制转换过程中,精度
丢失的问题造成的。
Python中用来计算十进制的模块
Decimal模块
可以查看二进制进度丢失的情况
x
123.455
print(decimal.Decimal(x))
123.4549999999999982946974341757595539093017578125
如何解决因二进制精度存储丢失,造成的四舍五入问题?
导入
fromdecimalimportDecimal,Context,ROUND_HALF_UP
四射五入法
a=decimal.Context(prec=5,rounding=decimal.ROUND_HALF_UP).create_decimal(123.455)
a
Decimal(123.46)
注意错误的方式和正确的方式
X=123.455
错误的方式,参数没有转为字符串
a=decimal.Context(prec=5,rounding=decimal.ROUND_HALF_UP).create_decimal(x)
a
Decimal(123.45’)
正确的方式,需要先将x转为字符串
a=decimal.Context(prec=5,rounding=decimal.ROUND_HALF_UP).create_decimal(str(x))
a
Decimal(123.46)
四舍五入需要用到的函数
Context函数,有很多参数,都有默认的值,我们做四舍五入时候,只需要改变两个参数的值来设置python的context处理环境即可
参数1是prec参数,用来显示最终的数值位数,这个数值位数包含整数部分和小数部分
参数2是rounding参数,改为ROUND_HALF_UP作为四舍五入方式
Create_decimal函数,注意参数值是一个字符串
总结强调
1、默认情况下,python环境采用的是银行家的算法/思维
2、灵活运用四舍五入的几个函数context函数,create_decimal函数
3、掌握利用decimal模块下的Decimal函数来查看二进制存储的精度误差的方式
订阅/关注/点赞
刘金玉
编程
文档评论(0)