永禄3年(1560)桶狭間で今川義元を討取った織田信長は､同5年(1562)三河の松平元康(後の徳川家康)と同盟を結び､美濃の斎藤氏攻略を本格化させた。そして､永禄6年(1563)信長は山頂から美濃方面を一望できる小牧山に城を築き､清須から居城を移した。これが小牧城である。
永禄10年(1567)信長は斎藤竜興を降して美濃を手中にすると､稲葉山城(後の岐阜城)に移り､小牧城は廃城となった。
天正10年1582)信長が明智光秀により本能寺で自刃に追いやられると､その仇を羽柴秀吉が天王山の戦いで晴らし､翌11年には賤ヶ岳の戦いで柴田勝家も破り､著しい台頭を見せたため､信長の次男･信雄は徳川家康と同盟を結び秀吉に戦いを挑んだ。これが小牧長久手の戦いである。
天正12年(1584)家康は1万5千の兵を率いて清須城に入り､信雄に合流､そして3月14日犬山城を攻め落とし南下しようとする秀吉の軍勢に対して､翌15日家康は小牧山に陣を進め対峙した。この際､家康は小牧城に大規模な改修を加え､強固な陣城としている。近年､発掘調査等により中腹の堀､土塁､虎口の築造や､山麓を囲む二重の土塁と堀､五か所の虎口などを付加したことが明らかになりつつある。
小牧城近辺で小競り合いが行われるが戦局は動かず､4月6日夜に秀吉は家康の本拠である岡崎への中入り攻撃のため羽柴秀次を総大将とする別動隊を差し向けた。これを察知し4月8日夜追撃に出た家康軍によって秀次軍は壊滅状態となり､先陣の池田隊も池田恒興･元助などが討死した。戦局は信雄･家康方優勢で進んでいたが､秀吉が蒲生氏郷に信雄の本拠である伊賀･伊勢方面を攻めさせ大半を占拠させると､信雄は11月11日の秀吉の講和申し入れに応じてしまい､戦の大義名分を失った形の家康も11月21日兵を引き揚げ､小牧長久手合戦は終了し､再び小牧城は廃城になった。
江戸時代に入ると､小牧山は家康ゆかりの地として､一般の入山が禁止されるなど､尾張藩の管理保護を受けた。

小牧城は､濃尾平野の北東部に聳える標高85.9mの独立丘陵である小牧山に築かれている。
この城は､山麓と中腹の横堀で二重に囲まれ､機能的に四つの地区からなっている。第一地区は､東端の頂部に置かれた主郭を中心に中腹を円形に廻る横堀より上方に築かれた中心郭群で､主郭の周囲は二段積みの石垣が固め､西側斜面に幾段もの腰郭が付帯し､その下方に横堀を廻らしている。第二地区は､中腹の横堀を越え北に延びる尾根上の郭群で､土橋を渡った土塁に囲繞された郭から北東と北西に分れ延びる尾根に土塁の付いた曲輪が続き､その下方を帯郭が取り巻いている。これらは中心郭群の前衛的機能を持っている。第三地区は､南側と西側の谷筋の山麓から山腹かけて設けられた大規模なテラス状の郭群で､竪堀や竪土塁､横堀で区画され段郭が､西の谷に二段､南の谷には大手口と幾段かの郭が設けられていた。南の谷は､市役所が建っていたため､遺構は潰滅している。第四地区は､山麓の横堀で囲われた長大な帯郭である。
小牧山の山麓から山上に亘って良好な遺構が残っており､山麓と主郭は公園として手入れが行き届いており､見事な土塁や横堀､石垣などを楽しみながら散策できる。また､説明板も各所に設置されている。
なお､近年の発掘調査で中腹まで大手道が一直線で延び､主郭周囲は二段積みの高石垣が築かれていたことも分かり､安土城と共通する構造が明らかになってきており､信長の独特な城づくりが解明されることが期待される。