Di aspetto assai spoglio, questa antichissima chiesa sorge appartata sopra un ramo laterale della Passeggiata Archeologica, in vista delle Terme di Caracalla. Sorge all'interno di un ampia aula di età romana, che faceva parte della residenza di Lucio Fabio Cilone, praefectus urbis nel 203, così come su murature romane insiste l'adiacente convento. La prima citazione di una chiesa dedicata alla martire romana Balbina, risale al 595, ma probabilmente la chiesa esisteva già nel 499. Numerosi interventi di pontefici sono ricordati per tutto l'alto medioevo, ma nel XII secolo crollò l'abside con il mosaico primitivo. In quel tempo vi era insediata una comunità di monaci greci, in un monastero fortificato come quello dei SS. Quattro Coronati. Ulteriori restauri si ebbero alla fine del quattrocento e del cinquecento, necessari perché la chiesa versava spesso in condizioni di semi abbandono sorgendo in un area spopolata e malsana.  Nel corso del seicento la chiesa venne del tutto abbandonata perdendo larga parte dei suoi arredi medievali, per essere di nuovo restaurata nell'ottocento, insediando nell'ex convento un ospizio per anziani, tuttora esistente, fino ad arrivare ad un esteso restauro nel 1927/1930 ad opera di Antonio Munoz, che ridiede un aspetto medievale alla chiesa, a prezzo di ampi rifacimenti.  Attualmente all'interno è una vasta e spoglia aula, dove le testimonianze più notevoli sono costituite dalla tomba del prelato Stefano de' Surdis, morto nel 1303, opera di Giovanni di Cosma, e dall'affresco della terza cappella sinistra, una Madonna col Bambino, i SS. Pietro e Paolo e altri santi, sormontati da un medaglione col Cristo benedicente, opera della fine del XIII secolo, di stile cavalliniano.  La schola cantorum e la cattedra episcopale nell'abside sono ampiamente di restauro.