永正15年(1518)浅井亮政によって築城され､岡山城とも呼ばれた。
元亀3年(1572)織田信長の小谷城攻めの際に､浅井氏の救援に来た越前の朝倉義景は､7月晦日に小谷城に着陣し､8月2日には大嶽城から南に馬蹄形に伸びる西側の尾根筋(知善院筋)に布陣した。この時､丁野山城も改築し家士の堀江甚助､久保田勘十郎､平泉寺玉泉坊らに守備させた。その後､信長が武田信玄の進軍に備え岐阜に撤退したことから､小谷城が危機を脱したと判断した朝倉義景は､丁野山城と大嶽城に番勢を置き､12月3日越前へと帰陣した。
しかし､武田信玄は､陣中で病状が悪化し､撤退中の天正元年(1573)4月12日に信濃国駒場で亡くなった。これで窮地を脱した信長は､小谷城攻略を本格化させ､同年8月8日山本山城を開城させ､12日に大嶽城を13日に丁野山城を落とし､再び越前より救援にやって来た朝倉義景を小谷城に入れることなく､同日夜に田上山城から越前に向け退却させた。