La chiesa, iniziata nel 1251 faceva parte del complesso conventuale degli Umiliati, un ordine giunto a Firenze da Alessandria nel 1239. A Firenze gli Umiliati si stabilirono prima fuori città, presso San Donato in Polverosa, quindi presso la chiesetta di Santa Lucia (1251), estendendo gradualmente le loro proprietà fino a comprendere un oratorio sul borgo (cioè su una strada fuori della vecchia cinta muraria), dove fecero costruire la loro chiesa ad honorem Sanctorum Omnium e il convento; il complesso venne portato a termine dal 1278 al 1294.

Intorno al 1310 venne posta sull'altar maggiore la Maestà di Giotto, ora agli Uffizi. Nella Sagrestia sono conservate altre opere trecentesche, come una Crocifissione ad affresco di Taddeo Gaddi e la Croce di Ognissanti ritenuta fino al 2009 opera del "Parente di Giotto" o di "anonimo giottesco", in ogni caso qualcuno assai vicino a Giotto e di grandissime capacità pittoriche. Sottoposta ad accurato restauro a partire dal 2005 l'opera si è rivelata chiaramente autografa di Giotto, con una datazione collocabile al 1315 circa. Il grande crocifisso ligneo (450x360 cm, in origine più alto) era collocato in chiesa, sul presbiterio, in posizione quindi dominante la navata e i fedeli, accanto alla già citata Maestà; dopo il restauro, il 6 novembre 2010 il Crocifisso è stato ricollocato all'interno del transetto di sinistra nella cappella rialzata dedicata ai caduti.

Nel Quattrocento, lavorarono in Ognissanti Sandro Botticelli (che nella chiesa è sepolto) e Ghirlandaio. Nel 1480 il Botticelli e il Ghirlandaio dipingevano due affreschi à pendant nell'abside, oggi staccati e posti al centro della navata. Il Botticelli ritrasse Sant'Agostino nello studio sulla destra, mentre il Ghirlandaio dipinse il San Girolamo nello studio a sinistra. Sempre nel 1480 il Ghirlandaio eseguì anche un affresco dell'Ultima Cena, un soggetto comune a molti refettori di convento nella città. Di questo lavoro è conservata anche la sinopia.

Molte le opere di importanti artisti conservate, da segnalare: Santi di Tito, Maso da San Friano, Matteo Rosselli, Jacopo Ligozzi, Giovanni Domenico Ferretti, Giovanni da San Giovanni, Ridolfo del Ghirlandaio e altri.

Ai primi del Seicento, i frati fecero affrescare da Jacopo Ligozzi, Giovanni da San Giovanni ed altri pittori il chiostro Grande con le Storie di san Francesco, predisponendo un paerallelismo della vita del santo con quella del Cristo, il cosiddetto alter Christus. Su questo chiostro si affacciavano la sala del capitolo, la spezieria e il refettorio. Tre pilastri ottagonali invece sono tipicamente medievali, infatti appartenevano all'antica chiesa gotica.