Rozpatrując instalację pompy ciepła należy zastanowić się nad wyborem właściwego rodzaju ogrzewania wodnego. Najlepszym rozwiązaniem jest funkcjonowanie pompy ciepła przy możliwie wysokiej temperaturze ziemi lub powietrza oraz przy możliwie najniższych parametrach zasilania układu grzejnego domu. Najczęściej montuje się ogrzewanie podłogowe, które funkcjonuje już przy wskaźnikach na zasilaniu około 40 st. C. Generuje ono idealny zakres temperatur dla użytkownika – temp. podłogi jest większa przy niższej temperaturze na wysokości głowy. W trakcie ciepłych miesięcy układ ogrzewania podłogowego może być wykorzystywany do obniżania temperatury pomieszczeń. Odrębnym typem ogrzewania wodnego, który idealnie współdziała z pompą ciepła jest ogrzewanie płaszczyznowe instalowane w płaszczyźnie ściany lub sufitu. Systemy kolektorów montuje się najczęściej w ścianach zewnętrznych obok okien. Na sufit wykorzystuje się maty kapilarne lub panele pełniące funkcję grzewczą i chłodzącą.
Jeżeli nie uda się zainstalować urządzeń ogrzewania niskotemperaturowego na etapie budowy domu, istnieją urządzenia, które można podłączyć w późniejszym czasie. Z pompą ciepła doskonale współpracują klimakonwektory. Montowane są one na ścianie jak popularne kaloryfery. Ich główną część tworzy element grzejny wraz z wentylatorem, który wymusza cyrkulację. Nadają się do ogrzewania niskotemperaturowego w trakcie zimy oraz do obniżania temperatury pomieszczenia w trakcie lata. Zastosowanie pompy ciepła nie przekreśla zastosowania tradycyjnych grzejników, jednak powinny one zostać dopasowane proporcjonalnie do niskiej temperatury zasilania. Rozmiarowo będą one znacznie większe niż przy konwencjonalnym systemie ogrzewania. Zastosowanie ich w instalacji z pompą ciepła nie zapewni ochładzania pomieszczeń podczas lata.