分辨率不确定度 使用指南
分辨率不确定度计算器求数字显示末位分辨力引入的不确定度,适合电子仪表与数显设备的测量不确定度评定。
计算公式与原理
u = a / (2
数字显示末位分辨力引入的不确定度。
使用步骤
- 填写「分辨率 a」。
- 结果区会即时更新;可一键复制结果用于记录或汇报。
典型使用场景
- 由分辨率估 B 类
- 数显/模拟
- 不确定度预算
算例参考
- 公式:u_res = 分度值 / sqrt(12)(均匀分布)。例:分度 0.01,u_res=0.01/3.464=0.0029。
- 末位分辨力 0.002:按矩形分布 u=0.002/(2√3)=0.000577;工具同时给出半宽/√3=0.000333 作为对比,两种处理方式的差异值得留意。
注意事项
本工具纯前端运行,输入内容不上传服务器;结果为按上述口径得到的理论估算值。实际应用受设备参数、测量条件与当地规范影响,请以设备铭牌、检测报告与现行标准为准,重大决策建议咨询专业人士。
- 分布?
- 读数在分度内均匀,标准差 分度/√12。
- 数显?
- 末位 ±0.5 位,同法处理。