図形の寸法がmm単位でずれることがあるのはなぜ?

図形の寸法がmm単位でずれることがあるのはなぜ?

WordやExcelに図形を挿入してサイズを指定すると、自分が入力した整数にならないことがあります。

図形の寸法の誤差

この図形は、21mmの正方形として入力したはずが、20.99mmと表示されて0.01mm小さくなってしまいます。これは、なぜなのでしょうか?

DTPソフトはインチが基本単位

実はDTPソフトやプリンター及びディスプレイでは、インチが基本単位となっているそうなんです。

1インチ≒25.4㎜、1pt=1/72インチなので、一般的に  1pt≒0.35278mmとなっています。

インチとメートル換算での誤差が原因

この21㎜の図形の場合、上の数字を踏まえてptに換算すると、

1㎜≒2.8346ptなので2.8346pt×21㎜=59.5266ptとなります。

しかし実際の図形を「オプション」→「詳細設定」→「表示」→「使用する単位」をptに変更して確認してみると、59.5ptとなっていました。

59.5266pt-59.5pt=0.0266pt(≒0.01mm)分が正確に表示できない誤差となっているようです。

どうやらWordで表現ができるptサイズの最小単位が0.05ptのようで、またWordでは、入力した寸法を(内部的に)変換する際に、端数を切り捨てる仕様になっていて小さいほうにずれることが多いようです。

自分の備忘録として書きました。