Esisteva in questo sito un piccolo oratorio dedicato a san Giovanni Evangelista sin dal 1351, quando un tale Giovanni di Lando della famiglia Gori lasciò una cospicua eredità per l'edificazione dell'edificio di culto. Con l'arrivo della Compagnia di Gesù in città (1557), il granduca Cosimo I affidò ai padri gesuiti la chiesetta ormai malandata, che fu presto riedificata a partire dal 1579, su progetto di Bartolommeo Ammannati, l'architetto di corte. I lavori iniziarono dall'attiguo Collegio; in seguito si iniziò a ricostruire anche la chiesa ispirandosi alla chiesa del Gesù a Roma (1581). I lavori, che proseguivano particolarmente a rilento per quanto riguarda la chiesa, passarono a Giulio Parigi e successivamente ad Alfonso Parigi il Giovane, che terminò l'opera solo nel 1661.

Il progetto dell'Ammannati, con la navata unica coperta a botte su cui si aprivano cappelle poco profonde e allargamento delle due cappelle laterali alla tribuna per formare la croce latina, fu rivisto nei lavori successivi, trasformando la copertura e rendendo la tribuna a forma di abside semicircolare, anziché rettangolare e più stretta della navata.

Il corredo decorativo interno risale per lo più a quegli anni, con Agostino Veracini che affrescò la volta nel 1758 e le statue in gesso di Camillo Caetani. Più antichi (ultimi decenni del Cinquecento) sono invece gli affreschi delle campate superiori di Alessandro Fei detto il Barbiere e le tele di Jacopo Ligozzi, Francesco Curradi e Alessandro Allori. La decorazione riflette il mutamento provocato nell'iconografia dalle nuove regole della Controriforma, con l'esaltazione dei santi missionari, come il San Francesco Saverio del Curradi.