1954年关山看了陶秦执导的《人鬼恋》后，兴起进入影圈的想法。同年投考“自由公司”演员落选。1956年考入长城公司演员训练班，经过一年受训，导演袁仰安发现关山外型惇厚，熟悉农村生活，认为他适合演阿Q的角色。1958年，关山凭《阿Q正传》荣获瑞士罗迦诺国际电影节的最佳男主角（银帆奖），令他成为首位在国际影展中获奖的香港演员，时年25岁。
1961年，关山加盟邵氏电影公司，主演了《不了情》、《蓝与黑》、《烽火万里情》、《一毛钱》等著名电影，为六十年代最红的国语电影男演员之一，以演文艺片最为出色。
七十年代起，关山以自由身在香港、台湾拍片，并于1972年创办关氏影业公司，制作《唐人客》等片，并自任导演。1979年，他曾参演丽的电视剧集《天龙诀》。八十年代后，关山弃影从商，祇间中客串演出电影，包括《英雄本色续集》、《警察故事续集》等等。
