在今河北、河南、山東等省存留的族譜中，記載其祖先遷自山西洪洞的的確不計其數。據署明嘉靖七年（1528）修的河南長垣縣西了墻村《王氏家譜》中說：“諱實，晉之洪洞縣大王莊人也。洪武定鼎之初遷居長垣縣合陽里西了墻村。我二世伯祖諱剛，憐弟幼弱，因從遷焉。剛祖於洪武十八年投滎陽侯楊大人帳下效用，因屢戰有功，封世襲德（疑缺字——引者）將軍，錦衣正千戶。”(17) 而在河南洛陽市棘針莊《王氏墓碑》中，有署順治九年（1652）三月一位“明末進士”的碑文，也說“洛東西凹王氏乃三槐之裔派也，本出自山西洪洞大王莊之支。先祖諱槐閣，字多闕，行三”，都出自同一村莊。盡管還不能找到洪洞有“大王莊”這個地名，碑文和族譜中也還有許多疑點，但可以肯定自明代就有了洪洞移民的說法，“槐樹”的痕跡也出現了。 

值得注意的是，在大多數族譜和墓碑中提到其祖先來自山西洪洞的，後面的具體地名都被省略或者磨損了。如署清乾隆十九年（1754）的河南內黃馬固村《明故王公神道碑》：“始遷祖山西平陽府洪洞縣（後缺字——引者）人也。”署清鹹豐七年（1857）的河南內黃尼化村《王氏祠堂碑》：“始祖原籍山西平陽府洪洞縣（後缺字——引者），自明永樂二年（1404）遷住於此。”這讓我們有理由懷疑他們並不知道祖先的具體家鄉，說山西洪洞不過是人雲亦雲。

這樣的懷疑也得到了部分資料的支持。在河南濟源南水屯村的張家祠堂，(18) 祠堂正中所供香案上的牌位上寫著：“始祖威卿於明洪武三年由山西省洪洞縣遷至濟源南水屯，迄今已六百二十九年。”西墻上懸掛的《張家祠簡介》除了講述同樣的話外，接下去說：“長子思義是吏員，次子思徽於洪武丙子年舉茂才，任湖廣荊州府通判，承直九年考滿，於永樂年間升戶部員外郎。洪熙元年為祭奠父母，撰文刻碑。清乾隆四十二年重刻此碑，保存至今。”我們也在祠堂院內見到了這塊碑，由於刻寫年代距離傳說中的移民時間很近，應該比較可信。該碑碑額為“戶部員外郎張秉先考處士張公墓誌”。墓誌往往刻寫在方形墓蓋之上，但我們所見到的，卻是清乾隆年間將墓誌移刻而成、立在那里的一塊碑石。我們先不去思考這也許反映了一個從墓祭到祠祭、以至墓誌變成石碑的過程，仔細觀察其中文字，曰：“公諱威卿，乃濟源之世家也。其所居縣曰沁陽，里曰堽頭，村曰南水屯，是其先祖之發廬。□厥先祖其便，□以居焉。”十分清楚的是，這塊撰於洪熙元年（1425）二月、距離所述事件僅20多年的墓誌，不僅沒有提到這位始祖從山西洪洞移民的經歷，反而寫明他是這里的土著。(19) 

到了清代中葉，傳說中的那些地名也開始在族譜和墓誌中出現。如署清康熙六十年的河南內黃刑固村《王氏祖碑》：“山西洪洞縣棗林村，乃余家祖居也。”署清乾隆五十八年的河南太康縣潭崗西村《趙氏墓碑》：“始祖諱太，始居山右，原籍洪洞縣老鸛巷。”署清道光二十三年的河南孟州市冶墻村《孟氏墓碑》：“相傳洪武二年攜弟原清從山西洪洞縣廣濟寺奉詔遷於此。”署康熙之河南清豐縣鞏營翟堤口《新建翟公墓誌》中說：“遐想山西洪洞縣野鵲窩乃吾始祖大老故里也。其先塋故址原有存者，後被遷自洪武年間，擇居於清豐之東號南山者。”而根據內容判斷為康熙末年所寫的河南洛陽西山嶺頭《李氏家譜序》，也已有了“後人欲知木本與水源，山西平陽洪洞縣。大槐樹鎮戶千家，洪武詔下遷。山西洪洞縣內遷萬戶，李氏族中八百三”這樣的說法。無論其說法是否屬實，前述傳說的流傳也已有了大約300年的歷史。

(16) 趙戴文：《洪洞古大槐樹誌序》，載景大啟輯：《山西洪洞古大槐樹誌》，1921年石印本。

(17) 以下所引族譜資料，皆見黃澤嶺《移民大遷徙》。

(18) 該村現屬濟源市亞橋鄉。我們在張家祠堂所見明洪熙元年墓誌，應該是相關實物中年代較早的資料之一，其他資料多經後來轉抄，說服力有限。

(19) 在1999年重修的《張氏家譜》序中，仍然說始祖於洪武三年由山西洪洞遷來。