1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 高等教育
  5. 微积分

数值误差题目及答案.doc

数值误差题目及答案.doc

    数值误差题目及答案

    一、单项选择题（总共10题，每题2分）

    1.当一个数进行四舍五入时，保留到小数点后两位，则0.0054变成（）。

    A.0.00

    B.0.05

    C.0.06

    D.0.1

    答案：C

    2.在数值计算中，下列哪一项不是数值误差的来源？（）

    A.舍入误差

    B.截断误差

    C.测量误差

    D.算法误差

    答案：C

    3.一个数在计算机中用浮点数表示，其格式为1位符号，3位指数，3位小数部分，则该浮点数能表示的最大正数是（）。

    A.1.23x10^3

    B.1.23x10^-3

    C.1.23x10^0

    D.1.23x10^-1

    答案：A

    4.

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >