大明湖名见诸文字已有一千四百多年，早在北魏年间，著名地理学家郦道元所著《水经注·济水注》中便有记载：“泺水北流为大明湖，西即大明寺，寺东、北两面则湖。”文中所指大明湖位置在今五龙潭一带，而现今大明湖一带水域则名“历水陂”。
另有史料记载，那时的大明湖称历下波或历水波，南至濯缨湖，北至鹊山和华不注山，也就是说大明湖、五龙潭和北园是相连的一个大湖，湖阔数十里，平吞济泺。六朝时，因湖内多生莲荷，曾名“莲子湖”，隋唐时它既名“莲子湖”（见段成式《酉阳杂俎》）又名“历水陂”。宋代时又有“西湖”之称。
大明湖胜景自唐代起就名扬四海，宋时曾巩曾有诗道：“问吾何处避炎蒸，十顷西湖照眼明。”可知当时此处已是消暑游憩之地。
北宋熙宁五年（公元1072年），曾巩任齐州（即今济南）知州时，为防御水患，修建了北水门，引湖水入小清河，使得湖水经年水位恒定，并在沿湖修建亭、台、堤、桥，使之渐成游览景观。古时湖面甚阔，今五龙潭一带也包括在内。后历经变迁，至金代起，大明湖专指城内湖区。
至金代，诗人元好问在《济南行记》中，始称大明湖。明代重修城墙，大明湖遂初成今日形貌。经过历代清淤整治，植荷栽柳，至清代已形成“四面荷花三面柳，一城山色半城湖”的秀丽景色。
1958 年市政府将大明湖一带正式辟建为大明湖公园，并疏浚湖底，修砌湖岸，维修古建，广植花木。经过疏浚清淤、修缮扩建，砌筑了湖岸，美化了园容，恢复重建了名胜古迹，增添了茶社饭店、游船和游乐设施，使之旧貌变新颜，姿容胜往昔，成为济南著名风景游览区之一。