岳阳称东陵始于战国，及于秦汉。最早见于《尚书·禹贡》：“过九江，至于东陵。”唐张守节《史记·正义》最早认定岳阳为东陵：“岳州有巴陵，盖是东陵”。宋罗泌《路史·九江详证》：“东陵，今之巴陵，与夷陵相对，出为东西，以夷陵曰西陵，则巴陵为东陵，信矣。”
巴丘一词最早见于《三国志·吴书·周瑜书》：“曹公下荆州，以舟师追先主至巴丘。……瑜还江陵为行装，而道于巴丘，病卒”；《三国志·吴书·吴主传》：“（东汉建安十九年孙权）使鲁肃以万人屯巴丘”。郦道元《注》：“巴陵，吴之巴丘邸阁也。”至明代尚有诗文称巴陵为巴丘，如明代何景明《巴陵》诗：“楚水滇池万里游，使车重喜过巴丘。”
隋开皇十一年（591年），改巴州为岳州。隋大业元年为罗州，三年后罗州改为巴陵郡。唐武德四年（公园621年）复为巴州，武德六年又改名岳州，天宝初改为巴陵郡，乾元初复名岳州。隋开皇十八年（598年）改安南县为华容县，隶属岳州，华容至此列入岳阳市范围。至此，岳州辖巴陵、罗县、湘阴、华容及沅江五县，今岳阳各县（市）全部归属一州。唐高祖时，罗县并入湘阴县。中宗时分湘阴东部设昌江县，仍属岳州。五代时后唐改昌江为平江县。
宋太宗时将湘阴县改属潭州。不久分巴陵县东北部建为王朝县，后改称临湘县，仍属岳州。哲宗时将沅江县改属鼎州，岳州辖巴陵、临湘、平江、华容四县。绍兴二十五年（1155年），因秦桧恶岳州名同岳飞姓，改岳州为纯州，旋恢复旧称。
民国二年（1913年）废府存县，岳州不复存在。改巴陵县为岳阳县。民国五年（1916年）全省分为三道，岳阳、临湘、平江、湘阴（包括今汨罗）、华容县均属湘江道。民国十一年（1922年）废除道制，各县均直属湖南省。民国二十六年（1937年）12月湖南设立九个行政督察区（后增为十区）。第一行政督察区驻岳阳，辖岳阳、临湘、平江、湘阴、长沙、浏阳、湘潭、醴陵、益阳、宁乡十县（后调整为八县，将益阳、宁乡划出）。 1970年岳阳专署改称岳阳地区，地区仍驻岳阳县。1975年，恢复岳阳市，属岳阳地区。1981年10月，撤销岳阳县，并入岳阳市。1983年2月，岳阳市升为地级市，由省直辖；重新设立岳阳县；撤销岳阳地区，所属的汨罗、平江、华容、临湘4县划归岳阳市；1986年1月撤销岳阳地区，实行市管县，将原地区各县划归岳阳市。
