抖动对二战时期飞机计算精度影响研究.pptxVIP

  • 0
  • 0
  • 约小于1千字
  • 约 2页
  • 2026-02-03 发布于四川
  • 举报

抖动对二战时期飞机计算精度影响研究.pptx

抖动趣闻二战,美国飞机飞行方向和投弹的抛物线的计算都离不开一台精度不高的计算机在天上计算的结果反而比在地面用的时候更准确举个例子,假设计算机在完成一个任务的时候,一个参数先后被乘了五次,这个参数的精确值是5.4,但是计算机只能用整数,5.4只好每次都被四舍五入成了5,正确的结果应该是5.4*5.4*5.4*5.4*5.4=4591.65,可是计算的结果只有5*5*5*5*5=3125机器在晃动的时候,会再额外产生一些的小误差,假设五次里5.4三次变成成了5,两次被化成了6,这样计算的结果是5*5*5*6*6=4500,比起3125精确了好多

文档评论(0)

1亿VIP精品文档

相关文档