2003 yılında Gençlerbirliği’ne transfer olan Baki Mercimek, başkent ekibiyle Süper Lig kariyerine başlamıştır. 3 sezon bu takımda kalan Mercimek, ardından Beşiktaş’a transfer olmuştur.

2 sezon boyunca Beşiktaş'ta forma giyen Baki Mercimek, takımın değişilmez isimlerinden birisi haline gelmişti. Taraftara kendini sevdiren Mercimek, 2 sezonun sonunda tekrar Ankara'ya dönerek Ankaraspor formasını sırtına geçirmiştir.

Ankaraspor'da umduğunu bulamayan Baki Mercimek, başkent ekibinden sonra Diyarbakırspor'a transfer olmuştur. Kısa bir süre Diyarbakırspor'da oynayan deneyimli futbolcu, yeni takımı Karşıyaka'ya transfer olmuştur.

2010 yılında Diyarbakırspor'dan Karşıyaka'ya transfer olan oyuncu 13 defa İzmir ekibinin formasını terletmiştir. Daha sonra tekrar Ankara'ya dönen oyuncu, Bugsaş Spor'a imza atmıştır ve kariyerini de burada sonlandırmıştır.