ఉండవల్లి గుహాలయంలోని తొలి అంతస్తు నుంచి రెండో అంతస్తుకు మెట్లుంటాయి. రెండో అంతస్తులో త్రిమూర్తుల ఆలయాలుండేవి. రెండో అంతస్థు నుంచి మూడో అంతస్తు, నాలుగవ అంతస్తును చేరుకునేందుకు సైతం మెట్ల మార్గం ఉంటుంది. ఈ గుహాలయంలోని నాలుగు అంతస్తులు కూడా రాయిని తొలిచి చేసిన నిర్మాణాలే కాని, పునాదులు వేసి నిర్మించినవి కావు. అలాగే ఇక్కడి విగ్రహాలు సైతం ఎవరో ప్రతిష్ఠించినవి కావు. మూడో అంతస్తు పూర్తిగా విష్ణుమూర్తికి చెందిన గుహాలయం. సాధారణంగా గుహాలయాలు అనగానే బౌద్ధ, జైనులకు సంబంధించినవే ఎక్కువ.
ఆసక్తికరంగా విష్ణుమూర్తికి సంబంధించిన గుహాలయాన్ని ఇక్కడ చూడవచ్చు. కొండవీడు రెడ్డి రాజులకు రాజ్యాధికారిగా పనిచేసిన మాధవరెడ్డి ఈ అనంత పద్మనాభుని గుహాలయాన్ని నిర్మించాడు. విషయాన్ని ఇక్కడి శాసనాల ద్వారా తెలుసుకోవచ్చు. అలాగే ఈ గుహాలయంలో రెండో అంతస్తుకు వెళ్ళే మెట్ల మార్గం పక్కనే ఉన్న కొండపై మనకొక శిథిల శాసనం కనిపిస్తుంది. ఇక ఇక్కడ నుంచి 9 కి.మీ దూరం సొరంగ మార్గం ద్వారా వెళితే మంగళగిరి నరసింహ స్వామి కొండపైకి చేరుకోవచ్చట. ఆ రోజుల్లో సాధువులు, మునులు కృష్ణానదిలో స్నానానికి, పానకాల నరసింహుని దర్శనానికి ఈ మార్గం ద్వారా రాకపోకలు సాగించేవారట. ఈ విషయాన్ని ‘మంగళగిరి శ్రీ పానకాల లక్ష్మీనరసింహస్వామి’ అనే వ్యాసంలో ప్రస్తావించడం జరిగింది. ప్రస్తుతం ఈ సొరంగ మార్గాన్ని మూసివేశారు.