东汉建安二十年(215),东吴大将鲁肃率万名将士在洞庭湖操练水军,并修筑巴丘城,在城西依山临水处,建造了检阅水军的阅军楼,这就是岳阳楼的前身。到了晋朝,巴丘城改建为巴陵城,阅军楼也有所增修,改称巴陵城楼。南朝宋诗人颜延之在《始安郡还都与张湘州登巴陵城楼》一诗中,描写了当时登楼眺望的景状。巴陵城在唐朝改称岳阳城。开元四年(716),中书令张说出任岳州(治所在今岳阳)刺史,重修此楼,常与文人学士登楼作诗,当时称作西楼。至李白、杜甫,始以岳阳楼为题作诗。宋仁宗庆历四年(1044),滕宗京谪守巴陵郡,重建岳阳楼,第二年,请范仲淹撰《岳阳楼记》。自从杜诗、范文问世以后,岳阳楼声名益大,成了游人无不向往的江南名胜。