推古14年(606)､聖徳太子の御願によって高麗僧恵慈･百済僧道欽により建立されたと伝わる。平安時代末期の久安元年(1145)には天台宗別院となり､中世には堂塔300余坊､僧俗合わせ1200人を誇る大寺院となったが､明応7年(1498)の自火で本堂付近を焼失し､文亀3年(1503)の兵火（第一次伊庭の乱）でも焼け､この2回の火災で創建以来の建物をはじめ仏像､寺宝､記録類などの大半が失われた。
その後､「百済寺下用帳」によると永正15年(1518)より大永3年(1523)に六角氏重臣の進藤山城守により要害と大手要害が築かれ城塞化がはかられ､天文5年(1536)の記録で延暦寺法華宗徒との騒乱で百済寺より学生･堂衆が都に出陣していることから､常に多数の僧兵を擁していたと考えられている。
永禄11年(1568)からの織田信長による近江侵攻に対し､在地勢力が巻き返しを図るべく抵抗を続けいたが､元亀4年(1573)百済寺は六角義賢･義治父子による鯰江城籠城戦への呼応に対する報復を受け､焼き討ちされ全山灰塵に帰し衰退した。再建は困難を極めようやく慶安3年(1650)になり本堂、総門、仁王門等が再建された。