1955 yılında dünyaya gelen Mahir Yılmaz, ilköğrenimini Kırşehir’de, ortaöğrenimini Kırıkkale’de tamamladı. 1982'de Gazi Üniversitesi Mimarlık ve Mühendislik Fakültesi Makine Mühendisliği Bölümü'nden mezun oldu.

1985 yılında ticari hayatına başlayarak İnşaat ve Taahhüt İşleri ile uğraştı. Bir dönem Kırıkkale Üniversitesi Meslek Yüksek Okulunda Öğretim Görevlisi olarak çalıştı.

1989 yılında Kırıkkale Belediye Başkanlığı bünyesinde ESO İşletme Müdürü olarak görev yaptı Yılmaz, evli ve İki çocuk babasıdır.

İngilizce ve Almanca bilen Mahir Yılmaz, 31 Mart 2019 yerel seçimlerinde İYİ Parti Kırıkkale Belediye Başkan adayı oldu.