มีการยกเรื่องประวัติศาสตร์การก่อสร้างปราสาทภูเพ็กไว้ในตำนานพระอุรังคธาตุ ซึ่งกล่าวไว้ว่า พระธาตุภูเพ็กสร้างโดยฝ่ายชายเพื่อแข่งขันกับฝ่ายหญิงซึ่งสร้างพระธาตุนารายณ์เจงเวง เพื่อรอบรรจุพระอุรังคธาตุของพระพุทธเจ้า ทั้งสองฝ่ายถือกติกาว่าถ้าดาวเพ็ก (ดาวศุกร์) ขึ้น ให้หยุดสร้าง ในการก่อสร้างฝ่ายหญิงได้ออกอุบายแขวนโคมไว้บนยอดสูง ทำให้ฝ่ายชายเข้าใจผิดเห็นว่าเป็นดาวศุกร์และหยุดสร้างปราสาท ทำให้ปราสาทภูเพ็กมีลักษณะที่ยังสร้างไม่แล้วเสร็จมาจนทุกวันนี้ 

เมื่อขบวนอัญเชิญพระบรมสารีริกธาตุผ่านมาถึง พระมหากัสสปะทราบเรื่องการสร้างอุโมงค์ จึงแจ้งแก่ชาวเมืองหนองหารหลวงว่า ไม่สามารถแบ่งพระบรมสารีริกธาตุให้ได้ เพราะต้องนำไปไว้ยังภูกำพร้า (พระธาตุพนม) ตามพุทธบัญชา แต่ก็ได้มอบ ‘ธาตุพระอังคาร’ (เถ้าถ่าน) ให้ไว้บรรจุในอุโมงค์ของฝ่ายหญิงแทน (ในพระธาตุนารายณ์เจงเวง) การนมัสการพระธาตุต้องเดินขึ้นบันได ๔๙๑ ขั้น ไปยังองค์พระธาตุซึ่งอยู่บนเทือกเขาภูพาน 

ปราสาทหินพิมาย พบเป็นนิทานในทำนองที่มีฝ่ายชายแข่งขันกับฝ่ายหญิง
สร้างพระธาตุ โดยแข่งกับปราสาทหินพนมวัน

นิทานเรื่องทำนองนี้มีอยู่ทั่วไปในภูมิภาคขึ้นอยู่กับว่าใครจะแต่งเรื่องแบบไหน เท่าที่ค้นคว้าได้พบว่ามีอยู่อีก ๒ แห่ง คือ ปราสาทหินพิมาย แข่งกับปราสาทหินพนมวัน ที่โคราช และปราสาทหินวัดภู ที่แขวงจำปาสัก ประเทศลาว แข่งกับ พระธาตุพนม ที่จังหวัดนครพนม

หากมองภาพกว้างของเทือกเขาในแอ่งสกลนคร วลัยลักษณ์ ทรงศิริ ได้ให้ข้อมูลถึงภูมิศาสตร์โบราณคดีของบริเวณลุ่มน้ำโขงตอนกลางไว้ว่า เมื่อผ่านบริเวณโขงเจียม ซึ่งเป็นแนวเขาทั้งสองฝั่ง และเป็นจุดบรรจบของลำน้ำมูลที่ไหลมาสบบริเวณนี้ทำให้เกิดเกาะแก่งและผาชัน และเป็นจุดที่พบจารึกจิตรเสนอีกแห่งหนึ่ง แม่น้ำโขงเลี้ยวไปทางตะวันออกเลียบแนวภูเขาที่เรียกว่า ภูควาย เป็นจุดเริ่มต้นของเทือกเขาพนมดงเร็ก บริเวณนี้เป็นที่ตั้งของเมืองปากเซ ซึ่งฝั่งตรงกันข้ามมีแนวเขาสูงใหญ่เทือกหนึ่ง มียอดเขาสำคัญอยู่ ๓ แห่งคือ ภูหลวง ภูจำปาสัก และภูเก้า ซึ่งมีรูปลักษณ์แปลกตาเพราะยอดเขามีหินตั้งขึ้นคล้ายเดือยตามธรรมชาติ จึงเป็นสถานที่ศักดิ์สิทธิ์ตามความเชื่อของคนท้องถิ่นและในศาสนาฮินดูเป็นที่สถิตของพระศิวะ จึงเรียกว่า ลึงคบรรพต ต่อมาคนลาวเห็นคล้ายการเกล้าผมมวยตั้งขึ้นบนศีรษะ จึงเรียกว่าภูเกล้าหรือภูเก้า ส่วนชาวบ้านเรียกว่า ภูควาย

หากเปรียบเทียบระหว่างปราสาทพนมกรม (Phnom Krom) ที่ริมโตนเลสาบ เมืองเสียมราช ประเทศกัมพูชา กับปราสาทภูเพ็ก สกลนคร ประเทศไทย มีการคัดเลือกสถานที่สร้างบนภูเขาที่มีรูปร่างเหมือนเขาพระสุเมรุ และมีแหล่งน้ำขนาดใหญ่อยู่ในบริเวณใกล้เคียง

หลักฐานทางประวัติศาสตร์และโบราณคดี เอกสารของกรมศิลปากรในหนังสือชื่อ ‘รอยอดีตสกลนคร’ ให้รายละเอียดไว้ว่า ไม่สามารถยืนยันปราสาทแห่งนี้สร้างในสมัยใด เพราะไม่ปรากฏจารึกและลวดลายแกะสลักแม้แต่แผ่นเดียว แต่จากการดูแบบแปลนและทำเลสถานที่ตั้งสันนิษฐานว่าอาจจะสร้างในราวพุทธศตวรรษ ที่ ๑๖ – ๑๗ ในศิลปะเขมรแบบบาปวน-นครวัด และน่าจะมีความตั้งใจสร้างเพื่อเป็นศาสนสถานฮินดู

หนังสือ ‘ร้อยรอยเก่าสกลนคร’ จัดทำโดยสำนักศิลปากรที่ ๑๐ ร้อยเอ็ด ของกรมศิลปากร ให้ข้อมูลว่า ปราสาทภูเพ็กน่าจะสร้างขึ้นในราวพุทธศตวรรษที่ ๑๖ – ๑๗ เช่นเดียวกับศาสนสถานอื่นๆ ที่อยู่ในพื้นที่ใกล้เคียง จารึกภาษาขอมโบราณที่ขอบประตูปราสาทเชิงชุม (พระธาตุเชิงชุม) ซึ่งถอดความเป็นภาษาไทยโดยผู้เชี่ยวชาญกรมศิลปากร ได้แปลความหมายว่า