関ヶ原の戦いで勝利した徳川家康は、徳川四天王の一人・井伊直政に近江・佐和山十八万石を与えた。彦根城築城は、家康の命により、石田三成の居城・佐和山城を一掃するため慶長８年（１６０３年）より着工した。
当初は湖畔の磯山を予定していたが、直継（のちの直継・上野安中藩主）の代になって現在の彦根山に決定し、二十年もの年月をかけて築城された。
天守は大津城から、天秤櫓は長浜城から移築して天守閣は二年足らずで完成したが、表御殿の造営、城郭改造など、城下町は寛永三年（１６２２年）に完成する。
その後、井伊氏は加増を重ね最終的に寛永十年（１６３３年）には譜代最高となる三十万石の大封を得るに至った。彦根三十五万石といわれるのは、ほかに幕府領五万石の預かりがあったためである。

国宝の天守閣ををはじめ、多くの櫓・門が現存していて国の重要文化財に指定されている。明治の廃城令で数多くの城が失われる中、解体されずに残ったのは、明治天皇が明治十一年に北陸巡幸を終え、彦根を通 られた際、保存するようにと大命を下されたためである。
一説には大隈重信の上奏により破却を免れたとされる。また一説には、住持攝専夫人で、天皇の従妹にあたるかね子が奉上したとも言われる。
彦根市市制50周年の昭和六十二年（１９８７年）には御殿が復元され、「彦根城博物館」として藩政時代の調度品・武具などが展示されている。