영점, 공차, 그리고 공시험: 아무것도 없어야 할 때 기기가 읽는 값을 측정하라

조(jaw)를 닦고 완전히 닫은 뒤 디스플레이를 읽어라. 그 숫자를 적어 두어라. 그다음 캘리퍼스를 열었다가 다시 닫는 과정을 네 번 더 반복하고, 각 측정값을 그 순간에 바로 적어라. 거의 정확히 0이 되는 일이 드문 작은 숫자가 나올 것이고, 다섯 번의 측정값이 모두 일치하는 일도 드물다. 두 사실 모두 중요하다. 다섯 값의 MEAN은 영점 오차이며, 이후의 모든 측정값에서 빼야 하는 값이다. 다섯 값의 SPREAD은 지금 이 계기로 무언가를 얼마나 정확히 알 수 있는지에 대한 하한선이며, 동전을 아무리 조심해서 다루어도 이 한계를 넘을 수 없다. 이제 동전의 두께를 다섯 번 측정하라. 매번 동전을 놓았다가 다시 끼워 넣고, 그 값도 적어 두어라. 아직 보정하지 말고, 계기가 실제로 가리킨 값을 그대로 기록하라. 측정하면서 바로 보정하면 원래의 측정값이 사라지며, 나중에 다시 계산할 수 있는 것은 원래 측정값뿐이다. 사용할 상태 그대로 영점을 맞추어라. 즉 작업 온도에서, 실제로 읽을 때와 같은 방향으로 맞추어야 한다. 차가운 상태에서 영점을 맞추고 따뜻한 상태에서 사용하면 그것은 영점이 맞춰진 것이 아니다. 작업이 끝날 때 영점을 다시 확인하라. 영점이 움직였다면 측정값이 흔들렸고 대략 얼마나 흔들렸는지 알 수 있다. 움직이지 않았다면 측정값이 흔들리지 않았다는 긍정적인 증거를 얻은 것이다.

빈 컵을 주방 저울에 올리고 무게를 적어 두라. 컵을 내렸다가 다시 올려 한 번 더 재라 — 다섯 번 반복하라. 표시값이 얼마나 흔들리는지 기록하라. 이제 올바른 방법으로 하라: 컵을 저울에 올리고 TARE 을(를) 눌러 디스플레이가 0을 표시하게 한 다음, 물 약 2그램을 넣고 디스플레이를 읽어라. 그 숫자가 바로 물의 무게이며, 물만의 무게다. 그다음 같은 컵과 같은 물로 나쁜 방법을 해 보라: 컵과 물을 합한 무게를 재고, 앞서 적어 둔 컵 무게를 뺀다. 거의 같은 답이 나올 것이다 — 그것이 핵심이다. 계산 자체는 동일하다. 다른 점은 그 답이 얼마나 정확히 알려져 있는가이다. 뺄셈 방식이 더 나쁜 이유는 두 가지이며, 방금 두 가지 모두 측정해 보았다. 용기의 무게는 두 번의 계량 사이에 CHANGES : 수분을 흡수하고, 직전에 담겨 있던 것의 막을 남기며, 다섯 번의 반복 측정이 그 차이의 크기를 보여 준다. 그리고 큰 두 수를 빼서 작은 수를 얻으면 두 수가 공유하는 자릿수가 사라진다 — 250.14에서 248.09를 빼면, 두 수 중 어느 것보다도 의미 있는 자릿수가 훨씬 적다. 4단계에서 이 자릿수를 세어 준다. 따라서 사용 직전에, 매번, ACTUAL 용기로 영점을 맞추라.

여과지를 하나 가져와 충분히 건조하라(이 용도에는 따뜻하고 건조한 곳에서 한 시간이면 충분하다), 실온이 되도록 두고, 가지고 있는 가장 정밀한 저울로 무게를 재라. 측정값을 날짜 및 사용한 저울과 함께 기록하라. 이제 그것을 깔때기에 올리고 DISTILLED 물 100 mL를 통과시켜라 — 평소 여과로 제거하려는 물질이 전혀 들어 있지 않다는 것을 알고 있는 물이어야 한다. 물이 모두 빠지게 두고, 처음 건조했던 것과 같은 방식으로 여과지를 말린 뒤, 실온이 되도록 두고 다시 무게를 재라. 두 무게의 차이가 BLANK이다. 이 값은 작아야 한다. 여과지에서 섬유가 떨어져 나오거나, 깔때기가 깨끗하지 않았거나, 여과지의 수분 함량이 처음과 같아지지 않았기 때문에 종종 0이 아니다. 그 원인이 무엇이든, 이 값은 이 방법으로 처리하는 모든 실제 시료에 더해지는 수치다. 이것은 영점 조정으로는 해결할 수 없는 부분이다. 영점 조정은 기기를 바로잡지만, 공시료는 METHOD의 몫이다 — 시약, 유리기구, 여과지, 실험실 환경. 공시료 값이 0이라는 것은 이들 중 어느 것도 시료를 오염시키지 않는다는 강력한 근거다. 공시료 값이 크다면, 실제 측정을 단 한 번이라도 하기 전에 방법을 먼저 고쳐야 한다는 신호다. 공시료는 한 달에 한 번이 아니라, 시료와 같은 SAME 실행 과정에서 함께 측정하라. 시약은 변질되고, 유리기구는 다른 용도로 쓰이며, 지난주의 공시료는 지난주에 대한 증거일 뿐이다.

영점 조정은 눈금의 아랫부분만 바로잡는다. 100 g이 실제로 100 g으로 읽히는지는 알려주지 않으며, 저울은 영점이 완벽하게 맞아도 측정 범위의 윗부분에서 크게 어긋날 수 있다. 따라서 직접 생산하지 않은 알려진 값으로 확인하라: 교정 추, 게이지 블록, 온도계의 경우 얼음물과 끓는 물 등이다. TWO개 지점이 최소 기준이며, 실제로 사용하는 범위의 아래쪽 한 지점과 위쪽 한 지점이어야 한다. 한 지점만으로는 눈금이 평행이동된 것인지 기울어진 것인지 구분할 수 없기 때문이다. 모든 구간에서 0.2 g 높게 읽는 저울과 2 % 높게 읽는 저울은 잘못된 쪽 끝에서 한 지점만 확인하면 모두 통과해 버린다. 보정 결과는 날짜와 함께 기록하라. 보정도 다른 측정과 마찬가지로 자체 불확도를 가지며, 시간이 지나면 더 이상 증거로서의 효력이 없다. 영점을 다시 맞출 수 없어 대신 기록해야 하는 것도 있다. 끝부분이 마모된 강철 자는 영점이 없다. 이런 경우에는 10 mm 눈금에서 측정한 값에서 10을 빼는 방식을 사용하는데, 이는 모든 측정을 하나의 기준점에서 시작하는 것과 같은 원리다.

**왜 세 번이나 스무 번이 아니라 다섯 번 반복하나요?** 다섯 번이면 산포가 1밀리미터 수준인지 1마이크로미터 수준인지 알 수 있는데, 이것이 실제로 내리려는 결정입니다. 다섯 번의 측정값이 심하게 어긋난다면 그것이 바로 결과입니다. 더 많이 측정하세요. **제 영점 오차가 음수인데, 제가 뭔가 잘못한 건가요?** 아닙니다. 조를 닫았을 때 -0.02 mm를 읽는 캘리퍼스는 +0.02를 읽는 것만큼 흔합니다. 부호가 있는 값을 빼세요: 보정값 = 원시값 − 영점. 음수를 빼면 더해지는데, 이것이 맞습니다. **캘리퍼스의 ZERO 버튼을 그냥 누르면 안 되나요?** 누를 수는 있지만, 그러면 그 숫자를 버리게 됩니다. 먼저 영점을 측정하면 기기의 오프셋이 얼마나 큰지, 그리고 안정적인지 알 수 있습니다. 버튼은 이 정보를 지워버립니다. 측정해서 기록한 뒤, 원하면 영점을 맞추세요. **용기 보정(tare)은 영점과 같은가요?** 아닙니다, 그리고 그 차이가 이 단계의 핵심입니다. ZERO은 기기가 아무것도 읽지 않는 상태입니다. TARE는 무시하고자 하는 용기를 기기가 읽는 상태입니다. BLANK은 비어 있다고 알고 있는 시료를 전체 방법으로 읽는 상태입니다. 이들은 서로 다른 세 가지 '없음'이며, 각각 다른 방식으로 확인합니다. **공시료(blank)가 음수로 나왔어요. 나중에 종이를 재보니 LESS이었습니다.** 그렇다면 처음에 종이가 완전히 건조되지 않았던 것이고, 절차에서 가장 큰 오차를 발견하신 것입니다. 두 번의 계량을 같은 방식으로, 같은 시간 동안 건조하고, 같은 실내 온도에서 계량하세요. 음수 공시료는 숨겨야 할 실수가 아니라 실제 정보입니다. **이것이 어디로 이어지는가.** 카탈로그의 모든 기기 단계는 이 과정이 수행되었다고 가정합니다. 마이크로미터 측정값, 온도계 측정값, 저울 측정값은 측정된 영점, 용기 보정, 공시료를 빼기 전까지는 모두 원시 숫자일 뿐입니다.