2004年，因主演《玉簪记》被陈伯华收为“关门弟子”。同年，其主演的汉剧《风雪三关》参加了第八届艺术节戏曲曲类节目展演 。2005年，举办了个人艺术专场演出 。2006年，余少群加入浙江越剧团，并举办了个人越剧专场演出 ；5月，在越剧《杨乃武平冤记》中饰演杨乃武一角；同年，参加北京电视台的“红楼梦中人”选拔，获得上海赛区“宝玉组”前五强 。2008年，签约海润千易演艺经纪公司，成为旗下艺人，从而正式开始演艺生涯 ；同年，参演由陈凯歌执导的剧情片《梅兰芳》，在片中饰演青年梅兰芳，余少群也因此获得了更高的关注度与人气 。2009年，凭借青年梅兰芳一角获得华表奖、金马奖以及亚洲电影奖等电影节最佳新人奖 。2010年，余少群相继主演了犯罪剧情片《守望者》和古装爱情片《新倩女幽魂》 ；同年，主演清代宫廷剧《苍穹之昴》；9月，在张黎执导的革命历史片《辛亥革命》中饰演汪精卫 ；11月2日，其主演的动作喜剧片《功夫咏春》在全国上映 。2011年，参演功夫片《新少林寺》，在片中饰演了正直善良的静海；6月，参演历史片《建党伟业》，在片中再次饰演梅兰芳 ；4月19日，其主演的古装神话爱情电影《新倩女幽魂》上映，余少群在片中饰演宁采臣，并与刘亦菲所饰演的聂小倩上演感情纠葛 ；同年，在古装历史传奇剧《隋唐英雄》中饰演唐太宗李世民 ；11月，主演宫廷历史剧《武则天秘史》 。2012年，主演古装历史剧《大戏法》，并首次在剧中一人分饰两角；同年，主演话剧《风雪夜归人》；3月22日，其主演的古装历史片《止杀令》上映，并凭借该片获得第五届英国万像国际华语电影节“最佳男配角” ；12月28日，其主演的悬疑惊悚电影《地下室惊魂》上映 。2013年5月7日，主演古装历史剧《乾隆那些事》，在剧中饰演了天资聪颖的乾隆皇帝和个性格豪爽的陈邦国 。2014年，主演古装传奇剧《神医安道全》，在剧中饰演民间神医安道全；同年，在古装战争剧《隋唐英雄5》中饰演嫉恶如仇、武艺高强的薛刚 。2015年，主演近代传奇剧《末代皇帝传奇》 ；同年，与刘亦菲、刘烨合作，出演由戴思杰执导的文艺电影《夜孔雀》。此外，余少群还演唱了电影的主题曲《为爱成泥》 ；12月27日，获得“中国电视好演员”奖 。2016年1月，与王心凌共同主演了爱情喜剧电影《我想静静》 ；同年，主演喜剧片《奇怪的同居》 ；5月20日，其主演的文艺片《夜孔雀》在全国上映，并在片中饰演热爱川剧的学生马林 ；6月，执导了个人电影处女作《说好毕业不分手》 。