祠，起先是用于紀念和祭祀某些偉人的場所，一般是對已故之人，對于在世的也偶有建祠，稱為“生祠”。
如《漢書》載，“文翁終于蜀，吏民為立祠堂，及時祭禮不絕”。隨著魏晉南北朝名門望族的出世，祠堂也逐漸普遍化。但，自從科舉制的興起以及望族的消亡，民間祠堂又開始沒落，特別是五代至北宋時期，百姓居無定所，祖先的祭祀則僅限于每家每戶的正堂。
整個宋代，不管是北宋還是南宋，文人的異軍突起以及商品經濟的發達，使得儒家理學得到了廣泛普及，而宗祠的再次推廣多賴南宋時期的朱熹。
朱熹在《家禮》中談到，“報本反始之心、尊祖敬宗之意，實有家名分之守，所以開業傳世之本”，其宗旨是希望有識之家應建立宗祠祭祀祖先，以揚宗功祖德。此外，朱熹也提出了詳細的宗祠規制，有錢之族“祠堂之制為三間，外為中門，中門外為兩階，皆三級”；“若家貧地狹，則止為一間，不立廚庫，而東西壁下置立兩柜，西藏遺書、衣物；東藏祭器亦可”。
“凡祠堂所在之宅，宗子世守之，不得分析”。如此在朱熹的倡導下，朱熹理學文化影響下的江西、福建、浙江便在民間掀起了宗祠修建之風，而當時福建適逢經濟文化大發展時期，進士輩出，海外貿易發達，大量的文化輸出也使得宗祠文化傳播至福建之外。
以宗祠之名，一般用于祭祀開基祖或較前世的祖先，大有一地同姓祖祠的意味，故現存地區同姓總祠一般都用“大宗祠”作為尾綴。
而家廟的產生則相對宗祠要晚些，家廟的源頭包括宗祠和宗廟，宗廟本是皇權特有的，但隨著宋代忠君仁愛思潮的擴大化，大家與小家得到兼顧，朝廷也允許部分高級官員設立自己的家廟以祭祀自己的祖先。
于是別于宗祠的同族共祭，某宗祠的某人家如有高官產生時，得以以高官的名義設置獨有、小眾的家廟以自我祭奠，久而久之這種家廟便也成了宗祠的功能而流傳于世。
因此，宗祠與家廟的區別在于，家廟設立之前一定有過高官，而宗祠則不需要：先有高官才有家廟，先有宗祠才有高官。因此，曾經高官比例較高的浙江、江西和福建便成了家廟的高發地，而其他地方則多見宗祠。
當然像家譜祠堂家廟等，每一個地方都還有獨特之處，上述的情況多指南方祠堂與家廟的區別。
而在北方特別在皖北一帶，因為歷史等原因，祠堂、家譜毀之甚多，每一個鄉鎮都難尋一座祠堂，但是家廟就很多，這種家廟幾個村莊就有一個，或者規模宏大或者就是一間小矮屋，供奉的一般也不是自己的祖先，多是各種道教神靈。
這種“家廟”是有區域和姓氏之分，如某某村某某姓家廟，每年廟會也是依托家廟存在，在臨時戲臺旁邊不遠處必定有一個家族的家廟，可能只是歷史上在這里存在，如果村子里有兩個大的家族，又都有家廟，那么唱社戲就精彩了，因為兩家都會攀比的。
同時本家族的人如果事業不順或者生病又不能通過常規的方法醫治，就會帶上香燭去家廟里，許愿以求更改命運。家廟也成為維系族人團結和感情依托的地方，這一點和祠堂的功能有點類似。
嚴格意義上來說這跟南方的家廟有本質意義上的區別，這種“家廟”是將祖先崇拜和民間信仰合二為一的存在。
