分辨率不确定度

u = a / (2√3)

Compute the uncertainty introduced by the last displayed digit of a digital instrument, assuming a rectangular distribution.

📐 计算公式
u = a / (2

数字显示末位分辨力引入的不确定度。

📌 计算说明
  • 数字仪器典型处理。
  • 末位分辨率 a。

📚 深度解析:分辨率不确定度

💡 常见使用场景

公式
u_res = 分度值 / sqrt(12)(均匀分布)。例:分度 0.01,u_res=0.01/3.464=0.0029。
末位分辨力 0.002
按矩形分布 u=0.002/(2√3)=0.000577;工具同时给出半宽/√3=0.000333 作为对比,两种处理方式的差异值得留意。

❓ 常见问题(FAQ)

分布?
读数在分度内均匀,标准差 分度/√12。
数显?
末位 ±0.5 位,同法处理。