Rudolf Marković rođen je 17. travnja 1931. u Malom Mošunju, naselju u općini Vitez, nedaleko od Bile. Roditelji Franjo i Ljubica (rođ. Rajković) othranili su sedmoro djece (pet kćerki i dva sina). Živjeli su u Biloj u zajedničkom domaćinstvu s obitelji Franjinog brata Ive.
Nakon II. svjetskog rata Franjina obitelj seli u Vitez. Osmogodišnju školu Rudolf je završio u rodnom mjestu, a zatim je pohađao franjevačku gimnaziju u Visokom. Započeo je studij bogoslovije, ali ga je ubrzo prekinuo i upisao višu učiteljsku školu u Travniku, te ju završio kao nastavnik matematike i fizike. Nakon stečene titule, bio je raspoređen na rad u školu u Suhom Polju, pored Bijeljine. Tu je zasnovao obitelj sa suprugom Nadom i dobio sina Zorana. Već 1960. obitelj se preselila u Novi Travnik, gdje je postao tajnik općine. Godine 1964. bio je izabran za predsjednika općine Novi Travnik i tu dužnost obavljao u dva mandata, sve do 1972. godine. Uz rad je upisao i završio Visoku upravnu školu u Zagrebu, koja je bila dio Pravnog fakulteta i sa njime izjednačena. U to vrijeme je iz hobija bio i nogometni sudac, a nogomet mu je bila sudbina i kasnije.
Za svo vrijeme rada u Novom Travniku bio je aktivan u Udruženju gradova Jugoslavije, gdje je upoznao i gradonačelnika Zagreba Josipa Kolara. Na njegov poziv, sa obitelji se 1971./1972. preselio u Zagreb i počeo raditi u Zavodu za izgradnju Grada i drugim institucijama koje su vodile izgradnju komunalne infrastrukture grada Zagreba. Nakon uspješne karijere u komunalnim institucijama grada Zagreba, 1988. postao je direktor NK Dinamo. Dinamo je od rane mladosti bio klub za koji je navijao i posvećivao mu puno vremena. Kao direktor vodio je Dinamo u teškim vremenima osamostaljivanja Hrvatske, a posebno se ističe čuvena, nikad odigrana, utakmica između Dinama i Crvene Zvezde na Maksimiru, 13. svibnja 1990. U Dinamu je radio još nekoliko godina, a zatim 1996. godine otišao u mirovinu. Preminuo je 18. svibnja 2004 i sahranjen na groblju Mirogoj.
