A primeira Capela construída pelo Capitão Francysco Antônio de Moraes, em 1836, era um pequeno templo, que mais tarde haveria de ser aumentado. Em 1852, o Tenente-Coronel Elias de Deus Vieira tomou frente ao empreendimento, contratando o arquiteto João Guilherme Raimundo que, em outubro desse mesmo ano, deu início às obras de conclusão do templo. De 1852 a 1894 não foi possível encontrar registros a respeito da Capela de Nossa Senhora do Carmo. Somente no dia 24 de julho de 1894, por iniciativa do Vigário Manoel Francisco de Moraes, decidiu-se reconstruir inteiramente a capela, transformando-a em um templo à altura de Carmo do Paranaíba. No dia 1º de agosto de 1898 foi assinado um contrato com o engenheiro Francisco Palmério, visando à construção do novo templo. Conjugando esforços, ricos e pobres, todos participaram da construção. Conta-se que a razão de estar a Matriz de Nossa Senhora do Carmo de costas para a cidade seria por exigência do Coronel Sabino de Deus Vieira, que a queria de frente para a sua residência. Na ocasião em que foi demolida a primeira capela, ele teria manifestado esse seu desejo. No dia 27 de fevereiro de 1900 o povo "carmelitano" assistiu à bênção da nova Matriz de Nossa Senhora do Carmo, dada por Dom Eduardo Duarte Silva, Bispo da Diocese de Sant'Anna de Goiás.