Bugün büyük bir gelişim gösteren ve Palu´yu çok gerilerde bırakan Kovancılar, 1934 yılında kurulmuş ve Romanya´dan Türkiye´ye göç eden soydaşlarımızın bir kısmı bu köye yerleştirilmiştir.Önceleri boş ve çorak olan bu arazi üzerinde bundan sonradır ki hızlı bir çalışma başlamış, iki mahalleden oluşan Kovancılar Giderek sesini duyurmaya başlayan  en güzel, en planlı yerleşim birimlerimizden biri olmuştur. 
1934 yılında alınan bir kararla, (300) evlik bir soydaş grubunun, Kovancılara, diğer iki ayrı grubun da Hoşmat ve Şenova köylerine yerleştirilmeleri uygun görülmüştü. Kovancılar ismi, Bulgaristan´ın Silistre iline bağlı Tutrakam ilçesinin Kovancılar köyünden esinlenerek alınmıştı.Çünkü Gelen göçmenlerin bir kısmı da, bu köyden göç ederek Köstence limanı üzerinden anavatan´a gelmişlerdir. 
İstanbul´dan da Elazığ´a gönderilen ve Palu yöresinde yerleştirecek olan bu soydaş topluluğu, köylerinin inşaatı bitinceye kadar da, komşu köylerde konuk edilmişlerdir.O dönemde vali olarak Elazığ´da, Tevfik Sırrı Gür bulunuyordu.Tevfik Sırrı Gür, ülkemizin tanınmış ünlü valilerinden biriydi.Bugün Elazığ´da Öğretmenevi olarak kullanılan eski Halkevi, Kız Sanat Enstitüsü binası, İstasyon Caddesindeki Atatürk İlkokulu da Vali Tevfik Gür zamanında yapılmıştı. 
Gittiği her ilde yapıtlar bırakan Tevfik Gür, hale ünlü valiler arasında anılmakta ve adı hiç bir zaman unutulmamaktadır.Soydaşlarımızın büyük bir özenle yetiştirilmelerinde ve vatana kazandırılmalarında Vali Tevfik Sırrı Gür´ün büyük hizmeti geçmiştir.Kovancıların temeli de 1935 yılında Vali Tevfik Sırrı Gür tarafından atılmıştır.Bugün çakırtaş olarak anılan Hoşmat ve Şenova köylerinde gene o dönemde gelen Balkan Türkleri yerleştirilmişti.Kovancılar Cumhuriyet tarihimizin ilk planlı köyü olma şansına da sahiptir.Çalışkan insanların sayesinde hızla gelişmiş 10.09.1988 tarihinde 3352 sayılı yasa ile Elazığ´a bağlı bir ilçe olmuştur.Bugün doğu illerimizden birinde vali olarak bulunan Mustafa Tamer de Kovancılara ilk kaymakam olarak gelmiştir.