05.12.1957 tarihinde İzmir ilinde doğdu. İlk ve orta tahsilini tamamladıktan sonra Polis Kolejine girdi. 1978 yılında Polis Akademisinden, daha sonra İstanbul Üniversitesi Siyasal Bilgiler Fakültesinden mezun oldu.
Mezuniyetine müteakip Komiser Yardımcısı olarak İzmir Emniyet Müdürlüğünde göreve başladı. 1981 yılında Isparta’da askerlik görevini tamamladı.
1983-1988 yılları arasında Komiser, Başkomiser ve Emniyet Amiri rütbelerinde Diyarbakır Emniyet Müdürlüğünde görev yaptı.
1988 yılında İstanbul Emniyet Müdürlüğüne atanarak Emniyet Müdür Yardımcılığı rütbesine kadar görev yaptı. Sayın Ercüment YILMAZ Amerika Birleşik Devletlerinde “Terörle Mücadele” ve “Kriz Yönetimi “ konularında eğitim aldı. Aynı zamanda kendisinin Kriminalistik uzmanlığı bulunmaktadır.
2000 yılında Bayburt İl Emniyet Müdürü olarak atandı. 2 yıl hizmette bulunduktan sonra 23.05.2002 tarihinde Ankara İl Emniyet Müdürü olarak göreve başladı. 17.06.2009 tarihinde İzmir İl Emniyet Müdürü olarak atanan YILMAZ evli ve iki çocuk babasıdır.
