小口城は､長禄3年(1459)織田遠江守広近によって築城された云われる。文明元年(1469)広近は木之下城を築いて居城を移したが､文明7年(1475)息子の寛近に家督を譲って小口に戻り､小口城の近くに徳林寺を再興し､更に隠居所(現在の妙徳寺)として「萬好軒」を造り､亡くなるまで居住した。「萬好軒」は､広近の遺命に基づき､明応元年(1492)織田敏定によって吉祥山妙徳寺と改められている。
文明元年(1469)以降の小口城は木之下城や犬山城の支城として残されたが､永禄年間(1558〜6)に織田信長の軍勢によって攻め落とされ廃城となった。その後､天正12年(1584)小牧･長久手の戦で一時的に羽柴秀吉方の砦として再興され､稲葉良通が布陣している。
なお､『信長公記』によれば､信長が小口城を攻略した頃の城主は「中嶋豊後守」となっており､余野神社には「謹奉…中嶋佐兵衛尉」と彫られた鰐口があることから､16世紀後半には中島氏が小口とその周辺を治めていたと考えられている。
ところで､初代城主である広近は､尾張国守護･斯波氏の守護代であった織田氏の初期の人で､守護代であり岩倉城主の兄･敏広を補佐すべく､小口城や木之下城を拠点に美濃の勢力に対抗し､尾張北部を治めていた。広近は､地方の武将でありながら実力者で､『文正記』には､文正元年(1466)大軍を引き連れ､主君である尾張国守護斯波義廉を助けるために上洛したとあり､また､『親元日記』には､広近が一族と共に将軍家(足利義政と妻の日野富子)に進物を贈った旨が記されている。

小口城は､大口町の北部､犬山城と小牧城の中間付近のやや西寄りに位置し､絵図や地誌によると四方に二重堀と土塁を巡らしたかなり広い城域の城であったとされる。
現在､城跡は小学校の敷地や宅地になり､小口城址公園に僅かに遺構の趣が感じられる程度であるが､大都市近郊にありながら堀跡や高台が残るなど､尾張の中では残存度が高い城跡とされている。
公園の南側と西側の一部に堀跡が残り､その内側に城壁や物見櫓､城門などが摸擬復元され､更に一段高くなって郭跡が広がり､礎石、井戸、野鍛冶炉跡が発掘展示され､さらに無料の展示施設も設けられていて､コンパクトながらよく整備された城址公園になっている。