Rozpatrując montaż pompy ciepła trzeba rozważyć sprawę odpowiedniego rodzaju ogrzewania wodnego. Najbardziej korzystnym rozwiązaniem jest funkcjonowanie pompy ciepła przy najwyższej temperaturze ziemi lub powietrza oraz przy możliwie niskich parametrach zasilania systemu grzewczego budynku. Najczęściej montuje się ogrzewanie w podłodze, które funkcjonuje już przy parametrach na zasilaniu ok. 40 stopni. Generuje ono idealny zakres temperatur dla człowieka – temperatura podłogi jest wyższa przy niższej temperaturze na wysokości głowy. Podczas ciepłych miesięcy system ogrzewania podłogowego może być stosowany do chłodzenia pomieszczeń. Odrębnym typem ogrzewania wodnego, który doskonale współpracuje z pompą ciepła jest ogrzewanie płaszczyznowe instalowane w płaszczyźnie ściany lub sufitu. Systemy kolektorów montuje się najczęściej w ścianach zewnętrznych obok otworów okiennych. Na sufity stosuje się maty kapilarne lub panele grzewczo-chłodzące.
Jeśli nie ma możliwości zainstalowania urządzeń ogrzewania niskotemperaturowego podczas budowania domu, istnieją urządzenia, które można zainstalować w późniejszym czasie. Z pompą ciepła idealnie współdziałają klimakonwektory. Instalowane są one na ścianie jak tradycyjne grzejniki. Ich podstawową część tworzy element grzejny wraz z wentylatorem, który wymusza obieg powietrza. Dedykowane są do ogrzewania niskotemperaturowego w trakcie zimy oraz do obniżania temperatury pomieszczenia podczas lata. Wykorzystanie pompy ciepła nie przekreśla zastosowania popularnych grzejników, jednak muszą one zostać dobrane adekwatnie do niskiej temperatury zasilania. Wymiarami będą one dużo większe niż przy konwencjonalnym układzie grzewczym. Zastosowanie ich w instalacji z pompą ciepła nie umożliwi ochładzania pomieszczeń w trakcie lata.