Si le baptistère est bâti sur d'anciennes constructions romaines du ier siècle (peut-être un temple de Mars), sa construction initiale, qui remonte au ive siècle, en fait un des plus vieux bâtiments de la ville : la première basilique San Lorenzo consacrée par saint Ambroise en 393. Ce n'est pas encore un baptistère et elle deviendra cathédrale au ixe siècle. Rebâti sur un plan octogonal et revêtu de marbre blanc et vert et puis rose sur son extérieur, et coiffé d'une toiture pyramidale, son rôle de baptistère est officiel en 1128, reconnu comme bel exemple d'architecture romane de Toscane. Son abside rectangulaire, la Scarsella (la bourse ou l'escarcelle) est ajoutée au xiiie siècle. Le sol est carrelé et la voûte et les parois sont couvertes de mosaïques de style byzantin. Le plafond pyramidal commencé au xiiie siècle n'est achevée qu'au xive siècle et comporte un Christ du Jugement dernier monumental et des panneaux des épisodes de l'Ancien Testament et du Nouveau Testament, ainsi que de la vie de Jean le Baptiste. De nombreux artistes s'y sont succédé de Gaddo Gaddi jusqu'à Cimabue. Les fonts baptismaux de 1371 et le tombeau de l'antipape Jean XXIII qui mourut en 1419, ont été réalisés par Donatello, Portigiani et Michelozzo.
