井岡山”的名字來源于五指峰(即一百元人民幣票面圖案井岡山主峰)山腳下一個叫“井岡山村”的村莊。大約在300多年前，廣東省興寧縣有藍、黃姓氏的兩戶農民，為避戰亂，遷徙到五指峰下一塊較平坦的地方安家立籍。由于這里四面環山，地形好象一口井，旁邊又有一條小溪流過，客籍人稱溪為“江”，便把此溪叫作“井江”，旁邊的山便叫“井江山”，村子也就叫作“井江山村?！庇忠蚩图谝簟敖迸c“岡”諧音，天長日久，人們就稱為“井岡山村”了。于是便有了“井岡山”這個地名。

井岡山在東漢年間已開始有人居住。秦朝設郡縣制時，為九江郡廬陵縣的屬地。公元280年西晉太康年間為廬陵郡西昌、遂興兩縣分治。唐朝顯慶年間(658年)改為江南西道吉州府屬地。明、清以來隸屬于江西行省吉安府永新、龍泉(現遂川)兩縣分治。

1927年10月--1939年2月間，湘贛邊界形成“工農武裝割據”的態勢，井岡山境內曾設“(永)新遂(川)邊陲特別區”，直屬湘贛邊界工農兵政府領導。

1949年8月，井岡山獲得解放。1950年成立“井岡山特別區”。1959年7月，經國務院批準成立“井岡山管理局”，屬江西省人民委員會直接領導。十年動亂時期的“井岡山革命委員會”屬吉安地區管轄。1977年恢復省轄的“井岡山管理局”。1981年11月，改為“井岡山縣”，由吉安地區管轄。為加快老區經濟建設和旅游事業的發展，1984年12月，經國務院批準，改設為“井岡山市”。