柴油機汽缸蓋和汽缸體中都鑄有冷卻水套。冷卻液經水泵加壓以后,經分水管進入氣缸水套內,冷卻液在流動的同時吸收氣缸壁的熱量,溫度升高,然后流入氣缸蓋水套,經節溫器及散熱器進入水管進入散熱器,與此同時,由于風扇的旋轉抽吸,空氣從散熱器芯吹過,使流經散熱器芯的冷卻液的熱量不斷散到大氣中去,溫度降低。最后又經水泵加壓后再一次流入缸水套,如此不斷循環,柴油機轉速升高。為了使多缸柴油機前后各缸冷卻均勻,一般柴油機在缸體水太重設置有分水管或鑄出配水室。分水管是一根金屬管,沿縱向熱感出水孔,離水泵越大,這樣就可以使前后各缸的冷卻強度相近,整機冷卻均勻。
水冷系統還設置有水溫傳感器和水溫表,水溫傳感器安裝在汽缸蓋出水管處,將出水管的水溫傳給水溫表。操作人員可借助水溫表隨時了解冷卻系統的工作情況,正常工作水溫一般在80-90℃。冷卻液與防冷液,柴油機使用的冷卻液應該是清潔的軟水,如果使用硬水,其中的礦物質在高溫時沉析出來,附著在管道、水套和散熱器芯中生成水垢,降低了散熱能力,易使柴油機過熱,還會是散熱器芯毒死,加速水泵葉輪和泵殼的磨損。對含礦物質較多的硬水,則需經過軟化處理后,方可加入冷卻系統使用,硬水軟化常用的方法是:在1L水中加入碳酸鈉0.5-1.5g,或加入氫氧化鈉0.5-0.8g,待生成的雜質沉淀后,取上面的清潔水注入冷卻系統中。