天正年間（1573～1592）北条氏照が、讃誉牛秀に帰依して開基となり、滝山城下に建立されました。八王子城の築城にともない移転。更に八王子城の落城で市内中心部の大横町に移りました。
江戸期を通じて関東十八檀林のひとつとして、また十夜寺として大いに栄えました。
開山の讃誉牛秀上人は浄土宗の布教書の元となる「説法色葉集（せっぽうしきようしゅう）」を著しました。
八王子総奉行 大久保長安や代官 竹本権右衛門 等の援護により発展し、第二世　含牛上人、第三世　呑龍（どんりゅう）など優秀な学僧が多く出ております。

お十夜のお寺として長く親しまれてきましたが、戦後には浄土宗を離れ単立寺院となり、また昭和三十六年には八王子市より移転の話が出て大和田町へ移転、その後、現在の大谷町へ移転することとなりました　昭和五十六年に現在の本堂が完成、同時に霊園事業に力を注ぎ、現在は約三千五百基の富士見台霊園の管理元となっています。
近年に至り、関係各位より浄土宗へ復帰を切望する声が高まり、度々復帰に向けた協議を浄土宗と重ねた結果、平成三十年/2018の夏、帰属承認を受け大善寺は再び浄土宗寺院となりました。