Każdy system ciepłowniczy posiada swoje źródło, czyli miejsce, w którym powstaje ciepło. Źródło (czyli ciepłownia lub elektrociepłownia) zazwyczaj leży z dala od centrum miasta. Dzięki temu, unika się niskiej emisji a powietrze, którym oddychamy jest zdecydowanie czystsze. Wytwarzanie ciepła może odbywać się w drodze różnych procesów: spalania węgla, gazu, oleju, biomasy, przetwarzania energii słonecznej lub wiatrowej, geotermii, a także wykorzystania energii elektrycznej. Produkcja ciepła często odbywa się w procesie kogeneracji, czyli jednocześnie z produkcją energii elektrycznej. W ten sposób zmniejsza się zużycie paliwa i emisję dwutlenku węgla.
Ciepło ze źródła, w formie ciepłej wody lub pary o odpowiedniej temperaturze, przekazywane jest do sieci ciepłowniczych. Najczęściej znajdują się one pod ziemią i oplatają miasto, umożliwiając ogrzewanie budynków. Dzieje się to przy pomocy tzw. przyłącza, czyli określonego odcinka sieci, który doprowadza ciepłą wodę bezpośrednio do węzła cieplnego – kolejnego elementu systemu. Zadaniem węzła jest przekazanie ciepła z wody krążącej w sieci do wody obecnej w instalacji grzewczej (odbiorczej) budynku. Czyli po prostu podgrzanie zimnej wody znajdującej się w instalacji budynku. To całkowicie bezpieczne dla użytkowników, ponieważ korzystają tylko z kranów i kaloryferów. Węzły cieplne często wyposażone są w systemy automatyki pogodowej, dzięki którym nie trzeba martwić się o komfort cieplny w mieszkaniu, niezależnie od pory roku. Oprócz ogrzewania budynków, ten sam węzeł zapewnia dostawę ciepłej wody na cele użytkowe. Po podgrzaniu wody w instalacji wewnętrznej budynku, schłodzona woda w sieci ciepłowniczej powraca do źródła do ponownego ogrzania.
Elementem systemu ciepłowniczego jest również aparatura pomiarowo-rozliczeniowa, czyli popularny licznik ciepła. Na podstawie wskazań licznika możliwe jest określone poziomu zużycia ciepła w budynku.