Della prima chiesa in realtà sappiamo ben poco. Sappiamo alla fine del XII secolo vi era contesa tra i canonici di Santa Maria di Reno e l’eremitessa Angelica per il controllo di un eremitorio sul Monte della Guardia. Un primo eremitorio esistette probabilmente tra il 1140 e il 1150 (un rogito di acquisto di terreni dove sarebbe poi stato costruito l’eremitorio – consistente forse in una piccola cappelletta – risale al 1143).
Sappiamo che nel 1197 vi era una chiesa in quanto è documentato un chierico Pietro di Santa Maria del Monte della Guardia in quell’anno e sappiamo che all’inizio del XIII secolo, quietate le controversie con i Canonici Renani, il Monte della Guardia divenne sede di un convento, testimoniante l’importanza assunta dal luogo di culto.
Non c’è modo di sapere che aspetto avesse la chiesa ed il convento in quei tempi. Sappiamo solo che nel 1395 aveva un campanile che crollò completamente con danno dei muri della chiesa a causa di un turbine (Serafino Calindri: Dizionario Corografico etc) e che nel 1433, quando, su iniziativa di Graziolo Accarisi, venne portata in città l’immagine della Madonna là custodita che si diceva essere stata dipinta da San Luca, lo stato della chiesa era fortemente degradato.
Degradata a tal punto, che fu necessario procedere alla costruzione ex novo di una nuova chiesa, tra il 1478 ed il 1481: la Seconda Chiesa.