小諸城の起源は、木曽義仲の武将・小室太郎光兼が築いた館に始まる。その後小室氏は衰退し、南北朝時代に北朝方の大井氏が小諸佐久地域を支配した。
　戦国時代に入り、村上氏の攻撃によって岩村田の大井宗家が滅亡したため、長享元年（1487）、大井光忠は要害の地である中沢川のほとりに小諸城の前身・鍋蓋城を築城した。さらにその子・光安が出城として乙女城（別名・白鶴城）を現在の二の丸付近に築城した。
　天文二十三年（1554）、甲斐の武田信玄の侵攻で鍋蓋城以下の諸城は落ち、以後約三十年間、武田氏の城代によって支配される。信玄は重臣・山本勘助と馬場信房に命じて鍋蓋・乙女城を取り込んだ新たな縄張りをして城郭を整備し、大城郭としたのが小諸城の原型である。
　天正十年（1582）武田氏滅亡後、小諸城は織田信長の領国となり滝川一益の持城となるが、本能寺の変が起きると北条氏と徳川氏の争奪が展開された結果、徳川家康の領有となり依田信蕃が城代となった。信蕃死後は子の松平（依田）康国に与えられた。
　豊臣秀吉が天下統一を果たすと、天正十八年（1590）に仙石秀久が五万石で封ぜられる。秀久が城の大改修と城下町の整備を行い、今日の遺構の残る堅固な城を完成させた。
　江戸時代になり、元和八年（1622）秀久の子・忠政のときに仙石氏が上田に移り、小諸城は徳川家光の弟・忠長の領有するところとなり、城代が置かれた。
　寛永元年（1624）に松平憲良が入り、その後青山宗俊、酒井忠能、西尾忠成、石川乗政、石川乗紀と城主が変わり、歴代藩主は徳川譜代がつとめた。
　元禄十五年（1702）越後与板藩から牧野康重が一万五千石で入封後は版籍奉還まで約１７０年間、牧野氏が十代にわたって居城とした。
　明治四年（1871）の廃藩置県後、城域は払い下げられ、小諸藩の旧士族の手により本丸跡に神社が祀られ、懐古園と名付けられた。