龙门原名称伊阙，龙门之名始于隋朝。阙，是我国古代建筑、宫殿、陵墓、祠庙前的建筑物，通常左右各一，以两阙之间有空缺，故称为“阙”，表示大门。这里，位于汉魏洛阳故城、隋唐东都城的西南方和南方，山壁陡峭，香山和龙门山，东西对峙，伊水中流，远望如阙，故称“伊阙”
春秋战国时期，这里称为阙塞。东汉时设立伊阙关，是洛阳八关之一。北魏设立阙口关，并置功曹官吏。隋炀帝时称龙门。唐朝时设龙门驿。伊阙自古为关隘要塞，地形险阻，向来是兵家必争之地，是洛阳通往南方的交通咽喉，是拱卫京都洛阳的天然门户。
隋仁寿四年十一月，刚登基不久的隋炀帝来到了洛阳。他登临邙山，俯瞰洛阳地势，观赏伊阙形势，说道：这不是龙门吗？自古帝王为何不在这里建都？大臣苏威附和道：古代帝王并非不知道，是专门等待陛下您呢。隋炀帝龙颜大悦，称赞洛阳：“控以三河，固以四塞，水陆通，贡赋等。”指出：“南服遐远，东夏殷大，因机顺动，今也基时。”决定在伊、洛之间建设东京。东都洛阳城位于汉魏洛阳城西18里，龙门成了东都洛阳城南的天然门户。东都洛阳城宫城的南正门则天门、皇城的南正门端门和外郭城的南正门建国门，正对着伊阙。因为隋唐时期都城以龙门为南北坐标，地处国都之南，东西两山之门如天然大门，封建统治者把“龙”作为皇帝的象征，所以，把正对着洛阳宫的伊阙改称为“龙门”，正好呼应了隋炀帝赐名龙门的美意。