La fiesta que hoy celebramos tiene su origen en Jerusalén en los primeros siglos del Cristianismo. Según un antiguo testimonio, se comenzó a festejar en el aniversario del día en el que se encontró la Cruz de Nuestro Señor. Su celebración se extendió con gran rapidez por Oriente y poco más tarde a la Cristiandad entera. En Roma tuvo gran solemnidad la procesión que, antes de la Misa, para venerar la Cruz, se dirigía desde Santa María la Mayor a San Juan de Letrán.

A principios del siglo VII los persas saquearon Jerusalén, destruyeron muchas basílicas y se apoderaron de las sagradas reliquias de la Santa Cruz, que serían recuperadas pocos años más tarde por el emperador Heraclio. Cuenta una piadosa tradición que cuando el emperador, vestido con las insignias de la realeza, quiso llevar personalmente el Santo Madero hasta su primitivo lugar en el Calvario, su peso se fue haciendo más y más insoportable. Zacarías, Obispo de Jerusalén, le hizo ver que para llevar a cuestas la Santa Cruz debería despojarse de las insignias imperiales e imitar la pobreza y la humildad de Cristo, que se había abrazado a ella desprendido de todo. Heraclio vistió entonces unas humildes ropas de peregrino y, descalzo, pudo llevar la Santa Cruz hasta la cima del Gólgota.