La chiesa, eretta a spese della comunità e dedicata ai cinque Santi protettori della città (Aquilino, Gemino, Magno e Donato) come ringraziamento per la nascita di Federico Ubaldo (1605-1623).
In questo stesso anno si costituì una prima aggregazione di religiosi seguaci di San Filippo Neri, che si riuniva presso l'Oratorio del Sacramento, nei sotterranei della Cattedrale. All'origine di tale iniziativa non fu forse estranea l'influenza di Padre Giovanni Antonio Lucci, già presente nella comunità religiosa forsempronese, quindi passato a Roma, nel novero dei più attivi collaboratori di San Filippo Neri, impegnato nella costruzione della chiesa della Vallicella. 
L' interno, a navata unica con copertura a volta, cappelle laterali (tre per ciscun lato) e grandiosa abside, presenta un'esuberante decorazione in stucco (statue, cornici, membrature, fregi), parte della quale è stata attribuita al plasticatore Tommaso Amantini da Urbania (1625-1675 ca.).
Nella realizzazione degli apparati pittorici (attualmente depositati presso la Civica Pinacoteca), eseguiti tutti dopo l'insediamento dei Padri Oratoriani, è rilevante la presenza dell'artista forsempronese Giovan Francesco Guerrieri con ben tre opere: la grande pala dell'altare maggiore (1621-1623) con i cinque Santi Protettori nell'atto di offrire alla Vergine il prototipo della Chiesa di San Filippo, quale si doveva presentare a lavori ultimati, mai portati a compimento; un carraccesco San Barnaba Orante  ed un  San Michele Arcangelo e la Trinità, donato dal padre filippino Michelangelo Azzi nel 1625.
Tra le altre pale si segnalano una Madonna con San Giovanni Battista e San Girolamo di Claudio Ridolfi ed una Madonna di Loreto, attribuita al bolognese Giovan Francesco Gessi, allievo del Reni.