Prema tradiciji, gradnja ovog objekta se pripisuje izvjesnom Junuz-čaušu, a datira se u XVI stoljeće, mnogo prije 1579. godine, kada je sastavljena vakufnama, odnosno prije popisa Hercegovačkog sandžaka iz 1585. godine. Iznad ulaznog portala se nalazi tarih koji kazuje da ju je podigao ili obnovio izvjesni Ibrahim, sin hadži Abdijin 1033.hidžretske (1623.)godine.

Godine 1917. austrougarska vojna vlast je skinula olovni krov sa džamije a svod je premazala katranom. Džamija je temeljito obnovljena 1922.godine, kada je kameni zid zamjenjen drvenim, a krov ponovo pokriven limom. Posljednji put prije početka rata džamija je obnovljena 1989.godine. U vrijeme ratnih dejstava (1992-1995.) džamija je više puta pogođena artiljerijskim granatama. Oštećeni su bili krovna konstrukcija, enterijer i zidovi objekta, a munara je pogođena više puta direktnim hicima.

Godine 1966. sva oštećenja na džamiji su sanirana, a dio harema uz džamiju je uređen kao šehidsko groblje. Prateći objekti (mekteb i medresa) govore da je ovo bio prosvjetno-ideološki centar naselja. U haremu džamije ima nekoliko zanimljivih starih nišana, od kojih je posebno zanimljiv nad mezarom na kamenoj kuburi Derviš-paše Dedage Čengića iz 1874.godine. Derviš-paša, zvani Dedaga Čengić, turski zborni zapovjednik, umro je u Konjicu na putu iz Gacka za Sarajevo 1874.godine.

U borbama sa Crnogorcima bio je teško ranjen i trebalo ga je prebaciti u tursku vojnu bolnicu u Sarajevo, ali nije izdržao do Sarajeva, umro je u Konjicu gdje je i ukopan u haremu Čaršijske džamije. U haremu se nalaze i nišani nad navodnim mezarom Junuz-čauša, za koga se pretpostavlja da je osnivač konjičke džamije. Urađeni su od mermera, a uzglavni nišan sa turbanom na prevoj visok je 1,25 metara, a nožni nišan je visok 1,25 metara sa uklesanom rozetom. Ovaj spomenik je najstariji u haremu.

Komisija za očuvanje nacionalnih spomenika Bosne i Hercegovine je u martu 2006.godine ovaj objekat proglasila nacionalnim spomenikom Bosne i Hercegovine.