Nel 1456 un'edicola dove era affrescata l'immagine della Vergine fu trasformata in cappella per ringraziare la Madonna di aver liberato la città dalla peste e fu venerata come Santa Maria della Misericordia, del Soccorso, delle Grazie.

Per officiare la Cappella vennero chiamati i Frati Carmelitani che le costruirono attorno una chiesa dedicata alla Madonna del Carmine, che fu completata nel 1509.

Verso il 1619 venne eretto l'attuale campanile dalla caratteristica cuspide ottagonale, mentre dal 1751 al 1756 la chiesa venne completamente ristrutturata in stile barocco su disegno dello jesino Nicola Maiolatesi. La cappella originaria inglobata nella nuova chiesa custodisce ancora l'affresco quattrocentesco di Andrea di Bartolo che rappresenta la Madonna della Misericordia. Inoltre, a fianco dell'affresco della Vergine, si trovano due quadri del pittore veneto Angelo Zona (1843) e dell’artista jesino Luigi Mancini nel 1850 che stanno a ricordare gli interventi miracolosi della Madonna.

Sui cinque altari laterali sormontati da colonne e pregevoli decorazioni a stucco, vennero collocate altrettante tele raffiguranti i misteri della vita di Cristo, dipinte dal fabrianese Luigi Lanci, tranne la Natività, realizzata nel 1759 dall'artista anconetano Nicola Bertucci.

Anche la Cappellina venne riadattata al nuovo gusto artistico dell'epoca e secondo il progetto di Mattia Capponi, mentre le decorazioni della volta furono eseguite da Luigi Lanci.

I Carmelitani, che vennero allontanati nel periodo napoleonico e subito dopo l'Unità d'Italia, sono di nuovo custodi del Santuario delle Grazie, ospitati nell'attiguo convento completato nel 1624 con la costruzione del chiostro, caratterizzato dalle lunette affrescate con storie della vita di Santa Teresa d'Avila.