ก่อนอื่น หลักใหญ่ใจความเมื่อกล่าวถึงพระธาตุพนมมักจะยกเอาตำนานอุรังคธาตุนิทาน วรรณกรรมพระพุทธศาสนาที่สำคัญทางภาคตะวันออกเฉียงเหนือ ที่มีพระธาตุพนมในฐานะสถูปพระอุรังคธาตุเป็นประธานของเรื่องพร้อมทั้งยังผูกโยงศาสนสถานที่สำคัญในแถบอีสานจนถึงลาวเข้าไว้ด้วยโครงเรื่องร่วมกัน ตำนานนี้ได้ย้อนไปถึงสมัยพุทธกาล พระโคตมพุทธเจ้าได้เสด็จมาถึงแดนสุวรรณภูมิและแสดงปาฏิหาริย์ประทับรอยพระพุทธบาทไว้หลายแห่ง 

จนถึงในส่วนสำคัญที่พระองค์เสด็จมาจนถึงภูกำพร้าและรับสั่งกับพระกัสสปะว่า เมื่อพระองค์ปรินิพพานให้นำพระอุรังคธาตุมาประดิษฐานไว้ที่เนินภูกำพร้าแห่งนี้ก่อนเสด็จกลับ กระทั่งหลังการเสด็จปรินิพพานแล้ว พระมหากัสสปะจึงได้นำพระอุรังคธาตุมาประดิษฐานไว้ที่ภูกำพร้า ครั้งนั้นพอท้าวพระยา ๕ เมือง ได้ทราบเรื่องก็ออกมาพร้อมใจกันสถาปนาพระธาตุขึ้นเพื่อเป็นที่ประดิษฐานพระอุรังคธาตุขึ้น 

พระธาตุพนม ถือเป็นพระธาตุเจดีย์ที่บรรจุพระอุรังคธาตุ (กระดูกส่วนพระอุระ) ของสมเด็จพระ สัมมาสัมพุทธเจ้าตามที่ปรากฏในตำนานอุรังคธาตุ ในส่วนชื่อพระธาตุพนมเองปรากฏเป็นเชิงลายลักษณ์อักษรครั้งแรกในแผ่นทองจารึกซึ่งจารึกไว้ในสมัยเจ้าราชครูหลวงโพนสะเม็ก แห่งนครเวียงจันทน์ ในช่วงของการบูรณะใน พ.ศ. ๒๒๓๖ – ๒๒๔๕ ว่า ‘ธาตุปะนม’

ในตำนานอุรังคธาตุกล่าวไว้ว่า องค์พระธาตุพนมสร้างครั้งแรกในราว พ.ศ. ๘  ในสมัยอาณาจักรศรี-โคตรบูรกำลังเจริญรุ่งเรืองอยู่ โดยท้าวพญาทั้ง ๕ อันมีพญาศรีโคตรบูร เป็นต้น และพระอรหันต์ ๕๐๐ องค์ อันมีพระมหากัสสปะเถระเป็นประมุข 

ตามตำนานยังได้อธิบายถึงลักษณะทางกายภาพและวิธีการก่อสร้างไว้ว่าในสมัยแรกนั้น การก่อสร้างมีการใช้อิฐดิบก่อขึ้นเป็นรูปเตาสี่เหลี่ยม กว้างด้านละสองวาของพระมหากัสสปะ สูงสองวา ข้างในเป็นโพรง มีประตูเปิดทั้งสี่ด้าน แล้วจึงเผาให้สุกทีหลังเมื่อสร้างเสร็จแล้วก็ได้อัญเชิญพระอุรังคธาตุของพระพุทธเจ้าที่พระมหากัสสปะเถระนำมาจากประเทศอินเดีย ประดิษฐานไว้ข้างใน แล้วปิดประตูทั้งสี่ด้าน แต่ยังปิดไม่สนิททีเดียว ยังเปิดให้คนเข้าไปสักการะบูชาได้อยู่บางโอกาส

ตามที่ในตำนานกล่าวว่า ‘ยังมิได้ฐานปนาให้สมบูรณ์’ นี้ก็หมายความว่า ยังมิได้ปิดประตูพระธาตุให้มิดชิดนั่นเอง แต่มีการสถาปนาให้สมบูรณ์ในราว พ.ศ. ๕๐๐ โดยก่อขึ้นรวมยอดเข้าเป็นรูปฝาละมี

‘ตำนานอุรังคธาตและพระธาตุพนม รากเหง้าของบ้านเมืองสองฝั่งโขง’ จากหนังสือเรื่อง ‘นิเวศวัฒนธรรมในความเปลี่ยนแปลง’ โดย วลัยลักษณ์ ทรงศิริ ได้ย่อยสรุปรวมถึงภูมิวัฒนธรรมของคนลุ่มน้ำโขงตอนกลาง ในช่วงเวลาที่เกี่ยวเนื่องกับนครรัฐที่เรียกว่า ‘ศรีโคตรบูร’ ไว้ว่า

‘…ตำนานอุรังคธาตุหรือตำนานพระธาตุพนม เนื้อหากล่าวถึงการเดินทางของพระพุทธองค์เมื่อครั้งที่เสด็จยังชมพูทวีป เพื่อมาประทับรอยพระบาทไว้หลายแห่งในดินแดนสองฝั่งแม่น้ำโขง โดยมีพุทธ-พยากรณ์ว่าสั่งให้ พระมหากัสสปะเถระอัครสาวก กับเจ้านครรัฐทั้ง ๕ คือ พระยาสุวรรณภิงคารเมืองหนองหารหลวง พระยาจุลนีพรหมทัตเมืองแกวสิบสองจุไท พระยาคำแดงเมืองหนองหารน้อย พระยาอินทปัตเมืองเขมร และพระยานันทเสน เมืองศรีโคตรบูร เพื่อมาร่วมกันสร้างพระธาตุ อัญเชิญอุรังค-ธาตุพระพุทธเจ้ามาบรรจุ ณ พระธาตุพนมที่ภูกำพร้า