在原始社會時期，由於生產力的水準低下，人類先祖對死者沒有祭祀的意圖，故一切葬俗從簡。在古代文獻裏，對於“墓”的解釋同“沒”，意謂埋入地下就沒有了。《禮記·檀弓》篇説：“古也，墓而不墳”。其注云：“凡墓而無墳，不封不樹者，謂之墓”。《周易·繫辭下》也説：“古之葬者，厚衣之以薪，葬之中野，不封不樹，喪期無數”。這些翔實的史料，足以證明早期的墓葬既無封土的墳，也無樹木或碑文一類作標誌。考古發掘亦提供了物證，即原始社會時期的母系、父系墓葬，均無封土或標誌。
》》清明掃墓十大禁忌注意事項
那麼，中國的葬俗有“墳墓”始於何時呢?據西漢人戴聖選自先秦舊典籍編輯成書的《禮記》記載：孔夫子三歲的時候，生父樑紇死了，族人未擇墓地就從簡埋葬了。孔夫子長大後，想祭祀先父，以示不忘“養育之恩”，但卻覓不到父親的墳墓在何處。經過幾位老年人的回憶，頗費時日方找到了。孔夫子是講孝悌、重“禮”之人，他認為子孫祭祀宜宗是必要酌禮節， “忘宜”就是“失德”。於是，便在父親墓穴上培土壘墳作標誌，以便後人按周禮祭祀。
西漢人戴聖的記載，畢竟不是信史，因為先秦典籍失於野火兵燹保留下來的不多了。但可推論，墓上壘墳可能在孔子以前就有了，因為隨着奴隸制度的完善，人們需要經常向鬼神祈禱。殷人尚鬼已有記載，他們凡事除向天神祈求禱告外，向祖宗先王禱告以求得蔭護，也是重要的祭祀活動。中國古代，平民百姓作出一些事情常被忽略，惟名人的一言一行易播青史。故將“封土墳頭”的起源，冠於孔夫子的名下，想必就是這樣的感情因素髮揮了作用，人們也樂於接受。
