ในการขุดคูทั้งสามด้านนั้น ได้นำเอาดินที่ขุดได้เข้ามาถมที่ตรงกลางกลายเป็นเนินดินสูงจากพื้นที่โดยรอบประมาณ ๒ เมตร เรียกตามตำนานว่า ภูกำพร้า และเนื่องจากการขุดคูเพียงสามด้าน ด้านทิศตะวันออกไม่ได้ขุด ในการถมดินจึงทำให้ภูกำพร้าสูงทางด้านทิศตะวันตก และลาดต่ำไปทางทิศตะวันออก            

เมื่อได้สร้างภูกำพร้าเสร็จแล้ว จึงสร้างศาสนสถานขึ้นที่ยอดเนินของภูกำพร้า การสถาปนาองค์พระธาตุพนมครั้งนี้ ได้ปรากฏอยู่ในการเขียนตำนานอุรังคธาตุ ที่พยายามอ้างอิงไปถึงสมัยพุทธกาล อันเป็นวิธีการเขียนประวัติศาสตร์ของคนโบราณในแถบนี้ ซึ่งมีภูมิหลังทางด้านพุทธศาสนา ว่า พระมหากัสสปะ ผู้รู้พุทธทำนายได้นำกระดูกหน้าอกของพระพุทธเจ้าหรือที่เรียกกันว่า พระอุรังคธาตุ มายังภู-กำพร้า 

ตามตำนานกล่าวว่า สมัยนั้นเป็นเวลา พ.ศ. ๘ และเหตุที่พระเถรเจ้ามาที่ภูกำพร้านี้ เพราะพระพุทธองค์ได้ทรงทำนายไว้ว่า พระอุรังคธาตุของพระองค์จะได้มาประดิษฐานอยู่ ณ ที่แห่งนี้ เพื่อรอเวลาผู้มีบุญมาสถาปนาในภายหลัง เรื่องที่พระมหากัสสปะนำพระอุรังคธาตุมาที่ภูกำพร้านี้ ทราบไปถึงพญา ๕ ตน ซึ่งมีบ้านเมืองครอบครองอยู่ในบริเวณใกล้เคียงโดยรอบคือ พญาสุวรรณภิงคาร เมืองหนองหารหลวง พญาคำแดง เมืองหนองหารน้อย พญาอินทปัต เมืองอินทปัตถนคร พญานันทเสน เมืองศรีโคตรบูร พญาจุลนีพรหมทัต แคว้นจุลนี จึงมาร่วมกันก่อสร้าง ‘อูบมุง’ เพื่อประดิษฐานพระอุรังคธาตุ และตำนานได้กล่าวเป็นทำนองอิทธิปาฏิหาริย์ว่า พระบรมสารีริกธาตุได้แสดงปาฏิหาริย์ให้ทราบว่า ยังมิใช่เวลาที่สมควรจะบรรจุพระบรมสารีริกธาตุ พญา ๕ ตน จึงเพียงประดิษฐานพระอุรังคธาตุไว้ ณ ที่นั้น โดยยังมิได้ทำการสถาปนา

งานวิจัยทางวิชาการ ‘ภูกำพร้า: ภูเขาศักดิ์สิทธิ์ตามคติพุทธศาสนา’ ซึ่งเป็นการวิเคราะห์ภูกำพร้าอันเป็นสถานที่ประดิษฐานพระธาตุพนมในอุรังคธาตุนิทาน ผลการวิจัยพบว่า ภูกำพร้า มีนัยสำคัญเกี่ยวข้องกับประวัติพระศรีอาริยเมตไตรย ทั้งยังเป็นสถานที่ประดิษฐานพระธาตุของพระพุทธเจ้าทั้ง ๕ ในภัทรกัป ความเป็นกำพร้าในคำว่า ‘ภูกำพร้า’ แสดงให้เห็นถึงลักษณะภูเขาลูกโดดที่โผล่ขึ้นท่ามกลางที่ราบ และคำว่าภูในภูกำพร้านี้มีความหมายตรงกับคำว่า ‘พนม’ ใน ‘พระธาตุพนม’ 

นอกจากนี้ยังพบว่าชื่อภูกำพร้านี้ยังถูกใช้เป็นชื่อวัดอื่นๆ ทั้งในล้านช้าง ล้านนา และลพบุรี โดยในล้านนาใช้คำว่า ม่อนกำพร้า แทนคำว่า ภูกำพร้า อย่างไรก็ตาม ผลจากการขุดค้นทางโบราณคดีใน พ.ศ. ๒๕๑๘ – ๒๕๒๒ พบว่า ภูกำพร้า ที่ตั้งพระธาตุพนมเกิดจากการกระทำของมนุษย์ โดยมีการสรุปไว้ว่า 

‘…ความเป็นกำพร้าในภูกำพร้า คือลักษณะกำพร้าของภูเขาที่เป็นภูเขาลูกโดดท่ามกลางที่ราบ โดยคำว่า ภู ในภูกำพร้า ตรงกับคำว่า พนม ในพระธาตุพนม นอกจากภูกำพร้าที่พระธาตุพนมแล้ว ยังพบชื่อภูกำพร้าที่ใช้เป็นชื่อสถานที่ตามธรรมชาติ และชื่อวัดทั้งในล้านช้าง ล้านนา และลพบุรี โดยในล้านนาใช้คำว่า ม่อนกำพร้าแทน คำว่าภูกำพร้า และภูเขาที่ใช้คำว่า พนม ได้แก่ เขาขุนพนม ที่จังหวัดนครศรีธรรมราช 

อย่างไรก็ตาม ผลจากการขุดค้นทางโบราณคดี ในปี พ.ศ. ๒๕๑๘ – ๒๕๒๒ พบว่า พระธาตุพนมที่ประดิษฐานอยู่บนเนินดินสูง ๒ เมตร เดิมเป็นที่ราบ เนินดินนั้นเกิดขึ้นจากกิจกรรมมนุษย์ ด้วยการขุดดินเป็นคูน้ำล้อมทั้ง ๓ ด้าน และนำดินที่ขุดขึ้นมาถมเป็นเนิน ไม่ได้เป็นภูกำพร้าที่เกิดขึ้นตามธรรมชาติ แต่จากความจริงประจักษ์ที่ผู้แต่งอุรังคธาตุนิทานได้พบเห็นว่า องค์พระธาตุพนมตั้งอยู่บนเนินสูง ๒ เมตร จึงเรียกเนินสูงนั้นว่า ภูกำพร้า ด้วยเหตุนี้ภูกำพร้าจึงเป็นภูศักดิ์สิทธิ์ตามคติพุทธศาสนาที่สืบต่อมาแต่โบราณจากวัฒนธรรมพราหมณ์-ฮินดู…’

รายละเอียดของกรมศิลปากรได้เข้าสำรวจและขุดค้นทางโบราณคดีตั้งแต่ พ.ศ. ๒๕๑๘ – ๒๕๒๒ ภายหลังจากที่พระธาตุพนมพังทลายลงในปี พ.ศ. ๒๕๑๘ ผลจากการสำรวจเบื้องต้นก่อนการขุดค้นทางโบราณคดีพบว่า 

‘…ผลจากการสำรวจเบื้องต้นก่อนการขุดค้นทางโบราณคดีพบว่า ภูกำพร้า อันเป็นที่ตั้งพระธาตุพนมนั้น มีลักษณะเป็นเนินดินสูงจากบริเวณโดยรอบประมาณ ๒ เมตร ทางทิศตะวันตกจะสูงกว่าทางทิศตะวันออก องค์พระธาตุตั้งอยู่ค่อนมาทางทิศตะวันตกซึ่งเป็นระดับสูงที่สุดของภูกำพร้า ห่างออกไปทางทิศตะวันออกประมาณ ๖๐๐ เมตร เป็นแม่น้ำโขงในอดีต เมื่อถึงฤดูฝน น้ำในแม่น้ำโขงจะขึ้นท่วมถึงองค์พระธาตุพนม