5 ನೇ ಶತಮಾನದ ಗುಪ್ತ ವಂಶದ ಎರಡನೇ ಚಂದ್ರಗುಪ್ತನ ಕಾಲದಲ್ಲಿ ಈ ಗುಹೆಗಳನ್ನು ಪುನರ್ನಿರ್ಮಿಸಲಾಯಿತು. ವಿದಿಶಾದಿಂದ 6 ಕಿಮೀ ದೂರದಲ್ಲಿರುವ ಬೇತ್ವಾ ಮತ್ತು ಬಿಯಾಸ್ ನದಿಗಳ ಮಧ್ಯದಲ್ಲಿ ಈ ಗುಹೆಗಳಿವೆ. ಇವು ದೊಡ್ಡ ಬೆಟ್ಟವೊಂದರಲ್ಲಿದ್ದು ಇಲ್ಲಿ ಬೌದ್ಧ ಪರಿಸರವನ್ನು ಕಾಣಬಹುದಾಗಿದೆ. ಇಲ್ಲಿನ ಶಾಸನಗಳು ಮತ್ತು ಕೆತ್ತನೆಗಳು ಐತಿಹಾಸಿಕ ಮಹತ್ವವನ್ನು ಪಡೆದಿವೆ.

ಇದು ಗುಪ್ತರ ಕಾಲಕ್ಕೆ ಸೇರಿದ್ದು ಇದನ್ನು ಭಾರತೀಯ ಪುರಾತತ್ವ ಪರಿವೀಕ್ಷಣ ಇಲಾಖೆಯವರು ಸಂರಕ್ಷಿಸುತ್ತಿದ್ದಾರೆ. ಇಲ್ಲಿನ ಹಲವು ಶಿಲ್ಪಗಳು ವಿಷ್ಣುವಿಗೆ ಮತ್ತು ಅವನ ಅವತಾರಗಳಿಗೆ ಸಂಬಂಧಿಸಿದ್ದಾಗಿದೆ. ಶಯನಾಸನದಲ್ಲಿರುವ ವಿಷ್ಣುವಿನ ಶಿಲ್ಪ ನೋಡಲೇಬೇಕಾದದ್ದು.  ಗುಪ್ತರ ಕಾಲದ ಕುಶಲಕರ್ಮಿಗಳ ಕೈಚಳಕ ಮತ್ತು ನೈಪುಣ್ಯತೆಯನ್ನು ಇವು ಹೇಳುತ್ತವೆ. ಇದರ ಪ್ರವೇಶದ್ವಾರದ ಕೆತ್ತನೆ ಬಹಳ ಅಮೋಘವಾಗಿದೆ.