Aquí se encontraba originalmente, según la tradición, la casa de san Marcos. En este lugar también tuvo lugar la última Cena, la venida del Espíritu Santo sobre los apóstolesy la Virgen, y es el sitio desde dónde, según dice la tradición, Nuestra Madre la Virgen María marchó al cielo mientras estaba acompañada de los discípulos.
Cuando Adriano visitó Jerusalén en el año 130 afirmó que la única parte de la ciudad que no estaba en ruinas consistía en algunas casas y una pequeña iglesia en Sión. Con Epifanio esta pequeña iglesia fue reemplazada por un largo edificio. Eso debió suceder después del año 336, pues no aparece en el plan de construcciones del emperador Constantino.
Otra fuente atribuye el alargamiento de esta iglesia en el monte Sión al emperador Teodosio (379-385). La famosa peregrina Egeria afirma haberla visto alrededor del año 384. Se volvió a reedificar posteriormente por el obispo Juan de Jerusalén, entre el 387 y el 417. Se consideraba un gran templo, la madre de todas las iglesias. Una tradición del siglo V y VI dice que en esta casa vivió la Virgen con el apóstol Juan hasta que María terminó su vida terrena. Esta iglesia fue quemada por los persas en el 614.
En cuanto pasaron los persas el Abad Modestus la restauró. Tenía forma rectangular y en ella se podían señalar varias partes: en el lado noroeste la columna de la flagelación, en el sudeste el lugar de la última Cena, en el sudoeste el lugar de la venida del Espíritu Santo, y en el noreste el lugar donde la Virgen murió. San Willibald, que visitó la iglesia en el año 724 o 725, dice que vio el lugar desde donde la Virgen partió de esta vida.
También pudo ver una columna que estaba enfrente de la puerta que conduce a Siloan, que marcaba el lugar donde los judíos intentaron hacerse con su cuerpo mientras los apóstoles la trasladaban para ser enterrada en el valle de Josafat. Epifanio, que vivió entre el 639 y 689, también asegura que esa habitación alta era el lugar desde donde los apóstoles trasladaron el cuerpo sin vida de la Virgen María.