python四舍五入,颠覆你的想象.pptx

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多

python四舍五入,颠覆你的想象

刘金玉

编程

零基础Python教程

#019

复习

进制转换

Hex函数:转十六进制

Int(参数1,参数2)函数,参数1实际的字符串数值,参数2是表示几进制数

Oct函数,转为八进制

Bin函数,转为二进制

四舍五入并非数值运算中想象的那样

出现错误的情况,是由于

二进制转换过程中,精度

丢失的问题造成的。

Python中用来计算十进制的模块

Decimal模块

可以查看二进制进度丢失的情况

x

123.455

print(decimal.Decimal(x))

123.4549999999999982946974341757595539093017578125

如何解决因二进制精度存储丢失,造成的四舍五入问题?

导入

fromdecimalimportDecimal,Context,ROUND_HALF_UP

四射五入法

a=decimal.Context(prec=5,rounding=decimal.ROUND_HALF_UP).create_decimal(123.455)

a

Decimal(123.46)

注意错误的方式和正确的方式

X=123.455

错误的方式,参数没有转为字符串

a=decimal.Context(prec=5,rounding=decimal.ROUND_HALF_UP).create_decimal(x)

a

Decimal(123.45’)

正确的方式,需要先将x转为字符串

a=decimal.Context(prec=5,rounding=decimal.ROUND_HALF_UP).create_decimal(str(x))

a

Decimal(123.46)

四舍五入需要用到的函数

Context函数,有很多参数,都有默认的值,我们做四舍五入时候,只需要改变两个参数的值来设置python的context处理环境即可

参数1是prec参数,用来显示最终的数值位数,这个数值位数包含整数部分和小数部分

参数2是rounding参数,改为ROUND_HALF_UP作为四舍五入方式

Create_decimal函数,注意参数值是一个字符串

总结强调

1、默认情况下,python环境采用的是银行家的算法/思维

2、灵活运用四舍五入的几个函数context函数,create_decimal函数

3、掌握利用decimal模块下的Decimal函数来查看二进制存储的精度误差的方式

订阅/关注/点赞

刘金玉

编程

文档评论(0)

balala11 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档