Michalský vrch patrí medzi cenné archeologické lokality. V roku 1987 na ňom boli odkryté základy kostola sv. Michala z 12.storočia, ktorý patril jednej z najstarších slovanských osád na území budúceho mesta Kežmarok. Bola to osada strážcov hraníc, ktorá tam mala svoj farský kostol sv. Michala Archanjela. Kostol bol postavený pravdepodobne v 12.stor., v 13.stor. pristavali k nemu vežu. Pri kostole bolo odkryté veľké pohrebisko. Po vpáde husitov bol r.1434 zbúraný. Základy, ktoré sa zachovali pod zemou, boli z väčšej časti zničené pri stavbe železničnej trate r.1889 a železničnej stanice v r.1914 - 1916. Neďaleko dnešnej stanice sa stojí baptistický kostol postavený v r.1929.