伏波山这座山孤峰挺秀，一半插入江潭，另—半则枕于陆地。每年舂夏，江水暴涨，山麓遏阻急浪狂澜，使江水倒转回旋，有降伏波涛之力。伏波山景致优美，岩洞同奇特。山的东面是临江回廊、吸波茶室和依崖而建的听涛阁，西面有登吐I石阶，可达半山亭和山顶，登高眺望，可看到桂林清秀如画的水光山色，因而有“伏波胜境”之美称。
    伏波山东麓还有著名的还珠洞，洞内玲珑剔透，勾连曲畅，洞壁有一引多种石刻，其中宋代大书画家米芾的题名、自凶像和诗人范成大的题诗堪称珍品。洞的东面豁然开朗，临于江潭。在近水之处，有一石柱下垂，上粗下细，底端有一寸多的空隙，不与地面相接，据说是被伏波将军用利剑砍断，故称“试剑石”。
    从这里盘桓而上，可以到达千佛洞，内有唐代摩崖造像二百多尊。在进入伏波山门时，还可看见一口5000多斤的铸铁大钟和一口能煮成担米的千人锅。这两件清代定粤寺的巨大遗物，虽然经历了三百多年风雨剥蚀，但至今仍然完整无缺，纹饰和铭文也清晰可认。定粤寺在抗日战争时期毁于战火，铁钟和铁锅便移置于此。