అరుణాచలేశ్వర ఆలయానికి ఒక కిలోమీటరు దూరంలో రమణాశ్రమం ఉంటుంది. అరుణాచలం వెళ్లిన వారు ఈ ఆశ్రమాన్ని తప్పక సందర్శిస్తుంటారు. స్థానికుల కన్నా విదేశీయులే ఎక్కువ కనిపిస్తారు. ఇక్కడ రమణుల సమాధిని చూడొచ్చు. ఇక్కడి గ్రంథాలయంలో రమణ మహర్షికి సంబంధించిన పుస్తకాలు లభిస్తాయి. ఆశ్రమంలో వసతి కోసం మూడు నెలలు ముందుగానే పేరు నమోదు చేసుకోవాల్సి ఉంటుంది. మరుసటి రోజు ఉదయం అరుణాచలం నుంచి పర్వతమలై కొండ దిగువకు ఆరుగంటలకు చేరుకున్నాం. తిరువణ్ణామలై నుంచి పర్వతమలై 25 కిలోమీటర్ల దూరంలో ఉంటుంది.
ఇక్కడ నిటారుగా ఉన్న పర్వతం పైన శివాలయం ఉంది. శివుడు హిమాలయాల నుంచి అరుణాచలానికి తిరిగి వచ్చినప్పుడు పర్వతమలై కొండపై అడుగుపెట్టాడట. ఇక్కడ సిద్ధులు శివుని ఎదుట ధ్యానం చేసి జ్ఞానోదయం పొందడానికి ఒక ఆలయాన్ని నిర్మించుకున్నారు. కొండపై రాత్రి బస చేసే భక్తులకు కొన్ని అద్భుతాలు అనుభవం అవుతాయని చెబుతారు. కొండపైకి తేన్మాడి మంగళం, కడలడి అనే రెండు మార్గాలుంటాయి. ఇక్కడి గుడి 24 గంటలూ తెరిచే ఉంటుంది. పూజారి అంటూ ఎవరూ ఉండరు. లక్ష్మణున్ని బతికించడానికి హనుమంతుడు సంజీవని పర్వతాన్ని తెస్తున్నప్పుడు అందులోంచి పడిపోయిన ఒక భాగమే పర్వతమలై అనే కథ ప్రచారంలో ఉంది.