1982年，于谦考入北京市戏曲学校相声班学艺，在校期间跟随相声演员王 世臣、罗荣寿、高凤山、赵世忠学习，并拜师于相声艺术家石富宽门下。 1995年，于谦毕业于北京电影学院影视导演系大专班的进修学业，之后参与电视剧《马三立》的拍摄，饰演角色赵佩茹， 1996年又出演电视剧《小井胡同》，扮演角色肥子，同时在中央电视台、北京电视台及地方台的长期栏目中担任节目编导及主持人。 1997年-1998年间，于谦与郭德纲在几次演出场合中相识。 2000年，于谦和郭德纲在北京某郊区露天广场的舞台上，表演了对口相声《拴娃娃》。这次意外的合作却让二人“毫不意外”地对彼此生出强烈欣赏。 2002年起，于谦不时与在小剧场演出的郭德纲合作表演相声。 2003年，郭德纲与于谦合作相声《你好北京》，在北京相声小品邀请赛上获得了组委会特别奖。 2004年，于谦正式加入德云社，自此于谦与郭德纲结为固定搭档。 期间合作相声《你要锻炼》、《找堂会》、《养王八》、《养宠物》。2005年，于谦与郭德纲合作相声《杨乃武》、《学聋哑》、《怪治病》。2006年，出演电视剧《北平小姐》 ； 12月，又与郭德纲、李菁和高峰三人拜民间艺人金文声为师，分别得名于增禄、郭增福、李增寿和高增喜。2007年， 参与电视剧《追着幸福跑》的拍摄，剧中饰演痴情男。2008年，出演电视剧《清官巧断家务事》 ，片中饰演 于小怀 。接着又参与电视剧《拯救爱》的拍摄，剧中饰演校长。 之后又与郭德纲合作相声《我要闹绯闻》、《谁动了我的减肥茶》、《你这半辈子》。2009年，主演电视剧《天生我才》。 之后与郭德纲合作相声《我这一辈子》、《西征梦》、《我是科学家》、《托妻献子》。 2010年，主演电视剧《郭县令轶事》 续集；接着又主演情景喜剧《鸡毛蒜皮没小事2》 ；后在电影《越光宝盒》 客串手语老师。2011年10月16日，郭德纲和于谦及德云社部分演员，在澳大利亚悉尼市政厅举办相声专场。 2012年6月，赴加拿大进行商演，7月1日在多伦多演出。9月28日，郭德纲、于谦携德云社于28日晚在悉尼市政府进行了在澳大利亚巡演的第三站演出。 2013年， 出演电影《大片》，剧中饰演黑老大。接着于谦与郭德纲首次登上中央电视台春节联欢晚会，表演节目《败家子》。 2014年，于谦重回主持界，与世熙传媒合作主持了娱乐默片脱口秀《大谦世界》，在辽宁卫视播出。 2016年1月，参加东方卫视综艺节目《欢乐喜剧人第二季》 。同年加入中国国民党革命委员会。 2016年5月，参加湖北卫视综艺节目《我为喜剧狂》第三季。 10月，参加浙江卫视喜剧竞演节目《喜剧总动员》。