Eretta, sembra, agli inizi del IX secolo, fu sottoposta ai benedettini dell'abbazia di Sant'Ilario. A causa della decadenza di quest'ultima, negli anni successivi si assistette a un progressivo trasferimento dei monaci verso San Gregorio che culminò nel 1214, quando divenne sede principale della comunità. Nel 1450 l'abbazia attraversò un nuovo lungo periodo di decadenza sia economica che spirituale che terminò con la soppressione del monastero nel 1775. La chiesa mantenne per breve tempo il ruolo di parrocchia, ma venne chiusa al culto nel 1808 sotto Napoleone. Mentre gli stabili del monastero venivano adibiti ad abitazioni, la chiesa venne occupata da un'officina della Zecca per la raffineria dell'oro. Dopo il restauro degli anni 1959-60 fu adibita a laboratorio di restauro della Soprintendenza per i beni artistici e storici di Venezia.
L'edificio attuale è il risultato della ricostruzione quattrocentesca ad opera di Antonio Cremonese, che sostituì al precedente stile veneto-bizantino il gotico. La facciata a capanna è tripartita da quattro lesene. Al centro si trovano il portale, racchiuso da un'elegante cornice a rosette, e, appena sopra, il grande rosone. Il pieno dei mattoni a vista è alleggerito da due bifore sovrapposte per lato. All'interno, a navata unica, resistono ancora resti di affreschi. Interessanti le tre absidi con i soffitti a capriate.
Lo splendido chiostro collegato all'abbazia, anche questo risalente a prima dell'anno 1000, fu parzialmente demolito nell'800 per far posto al palazzo Genovese, conserva il chiostrino gotico trecentesco con colonne architravate e il coevo portale d'ingresso, affiancato da alte finestre trilobate e sormontato da un'edicola con un san Gregorio in cattedra. Dalle finestre ad angolo del primo piano che si affacciano sul bacino di San Marco Canaletto dipingeva le sue spettacolari vedute veneziane.