1956年入北京电影学院表演系学习。1957年被错划为右派分子。留校劳动。1966年至新疆劳动。1979年，回京主演影片《樱》。1980年起任西安电影制片厂演员。1986年转任导演。1987年，导演了电影《盲流》及电视剧《铸情岁月》，凭借《古越轶事》夺得首届电影艺术学会奖 。1993年，凭借《筏子客》夺得第四届电影艺术学会奖。1997年，参演历史剧《司马迁》。2001年，拍摄了历史悬疑剧《江山为重》。2003年，主演了清宫历史剧《宫廷画师郎世宁》。2005年，拍摄枪战悬疑剧《喋血大汉口》。2008年，出演了李少红版四大名著之一的《红楼梦》。2010年，拍摄电影《白鹿原》 。2013年，获得中国电影表演艺术学会特别荣誉奖 。2016年，出演历史文化正剧《老子传奇》 。2017年，主演院线主旋律电影《我的老兵爷爷》 。

2019年11月23日，第32届中国电影金鸡奖颁奖典礼在厦门举行，许还山获“中国文联终身成就电影艺术家”荣誉。