分辨率不确定度

u = a / (2√3)

Compute the uncertainty introduced by the last displayed digit of a digital instrument, assuming a rectangular distribution.

📐 计算公式
分辨率不确定度(本页代码口径,矩形分布):u=a÷(2×√3)(a 为分辨率全宽,半宽 a÷2 再除 √3);联动量:对比项=u÷√3、扩展不确定度 U(k=2)=a÷√3、由 u 回算半宽=u×2×√3、不确定度百分数=u×100(指数形式)。校验:无强校验,空值按 0 兜底。判据:无固定分级,a 为数字示值分辨力时 u 即分辨力引入的标准不确定度分量。

数字显示末位分辨力引入的不确定度。

📌 计算说明
  • 数字仪器典型处理。
  • 末位分辨率 a。

📚 深度解析:分辨率不确定度

💡 常见使用场景

公式
u_res = 分度值 / sqrt(12)(均匀分布)。例:分度 0.01,u_res=0.01/3.464=0.0029。
末位分辨力 0.002
按矩形分布 u=0.002/(2√3)=0.000577;工具同时给出半宽/√3=0.000333 作为对比,两种处理方式的差异值得留意。

❓ 常见问题(FAQ)

分布?
读数在分度内均匀,标准差 分度/√12。
数显?
末位 ±0.5 位,同法处理。

Formula & Standard References

Item Formula / Note Source / Standard
Resolution uncertaintyu = res/√12GUM
Digital displayDigit stepJJF 1059.1
Relation to GRRMasking effectAIAG MSA