一、人為誤差
1、操作人員熟練程度不夠、實踐經驗比較差、操作不當造成，應由在操作熟練的人員帶領下使用;
2、加荷過快，持荷時間短，低硬度的零件硬度偏高，而加荷過慢，持荷時間長，硬度偏低，操作時加荷應平整，保持一定加荷時間。
二、被測零件影響的因素
1、不同表面光潔度的零件在洛氏硬度測試時，表現出不同的影響。表面光潔度愈低，高硬度測試時其硬度愈高，反之硬度越低，有刀痕的粗糙表面，淬火時首先*快冷卻，或很堅硬的表層，硬度值就高。反之，調質件高溫回火時，有刀痕的表層組織先轉變，抗回火的能力小，硬度值就低。在測試表面光潔度Δ7以下的零件時，必須使用廢砂輪精磨，再用銼刀銼磨光滑，或用細的手砂輪磨光，然后揩擦干凈。
2、熱處理零件表面有鹽漬、沙子等物，當加負荷時，零件會產生滑移，若有油膩存在，金剛頭壓入時起潤滑作用，減小磨擦，增加壓深。這兩項原因使所測硬度值偏低。零件測試的部位氧化皮蔬松層薄的硬度值降低，氧化皮致密層厚的硬度值增高。對欲測硬度的零件必須去除氧化皮，揩擦干凈，不得有臟物。
3、斜面(或錐度)、球面及圓柱體零件對硬度測試的誤差較平面大。當壓頭壓入這種零件表面時，壓入處四周的抗力比平面小，甚至有偏離、滑移的現象，壓深增大，硬度降低。曲率半徑愈小，斜度愈大，硬度數值的降低愈顯著。金剛石壓頭也容易損壞。對這類零件要設計專用工作臺，使工作臺和壓頭同心。
三、硬度計壓頭的影響
1、壓頭不符合技術要求或是使用一段時間后有磨損，操作者如不能判斷壓頭的好壞，應該由計量測試機構進行鑒定??
2、鋼球壓頭強度和硬度不夠，容易產生變形。鋼球扳壓扁產生長久變形后呈橢圓形，短軸垂直于零件表面時，壓痕淺，示值高;長軸垂直于零件表面時，壓痕加深，示值降低，鋼球允差小0.002mm。
四、載荷方面
1、初負荷：彈簧和主軸、杠桿和百分表之間有摩擦，造成100N的增大或減小。調整螺絲松曠、調整移動，頂桿位置不當。起始線有差異，引起初負荷不對。如果初負荷不對，應調整彈簧、主軸、杠桿、百分表等處的配合。調整塊的位置移動合適以后，緊固調整螺絲，同時要緊固頂桿位置，初負荷的允差應小于±2%。
2、主負荷：杠桿比例不對，吊桿和砝碼的配重有誤差;主軸、杠桿和砝碼有偏斜，均會使主負荷產生誤差。杠桿比不對，應進行調整。刀口有磨損應修復或更換，主軸變形要進行校直。主軸、杠桿和砝碼偏斜應撥正。各種標尺主負荷的允差小于±0.5%。
五、硬度計安置不正確
硬度計不處于水平位置，測試硬度時，其值偏低。用水平儀測量水平度，然后墊平硬度計。
六、零件某一測試部位的表面與工作臺接觸**
或者支承點不穩固，將會產生滑移、滾動、翹起等現象。這不僅使所得結果不準，還會損壞儀器。應根據零件的幾何形狀設計合適的工作臺。
七、周圍環境的影響
工廠生產用硬度計常會因周圍環境受震動的影響，致使儀器結構產生松動，示值不穩定。硬度計應安裝在無震動或離震源較遠的地方。
八、硬度值不準確
有二種情況導致測試硬度不準確，如果所用的壓頭是金鋼石壓頭，首先用指甲表面輕輕與壓頭頂部磨擦一二下，觀察指甲有沒劃出深痕跡，有深痕跡表示壓頭已損壞，反之為好的壓頭。**種情況就是儀器微調處未調好，打開硬度計頂蓋，用一字螺絲刀把頂針部二顆螺絲調松，然后把微調鐵塊向前調節使硬度值調高，反之為調低。