- 1
- 0
- 约5.97千字
- 约 10页
- 2026-05-22 发布于陕西
- 举报
主讲教师:杨叶勇无锡商业职业技术学院Python编程基础运用库函数拓展计算功能
Part1:math模块-精准的数学计算Python内置数学标准库提供高精度、专业化的数学函数,是实现工程化数值计算的核心工具。支持浮点数运算、三角函数、指数对数等科学计算场景。
Python编程:math模块核心功能解析模块定位与基础功能Python内置标准库,提供高精度、专业化数学函数支持核心痛点解决方案精度修复:解决浮点数等普通数值计算的精度缺失问题功能扩展:弥补基础算术运算符功能单一的短板工程化核心价值赋能复杂场景,实现工程级、高精度的数值计算需求
高精度求和:math.fsum()与sum()对比解析1.内置函数sum()局限?Python原生内置,使用便捷但存在精度隐患。?浮点数累加时会产生舍入误差。2.高精度函数math.fsum()?math库专属函数,专为可迭代对象设计。?采用补偿求和算法,精准规避精度丢失。实测对比:0.1×10次累加sum([0.1]*10)→0.9999999999999999结果错误:浮点数精度丢失math.fsum([0.1]*10)→1.0结果正确:高精度补偿求和??结论:科学计算优先使用math.fsum()
浮点数精度丢失:原理与成因解析二进制浮点数存储机制计算机底层使用二进制(0和1)来存储浮点
原创力文档

文档评论(0)