1979年，刚上大二的张铁林参与拍摄了中央电视台的第一部单集电视剧《有一个青年》，在片中扮演男主角顾明华，80年主演对越反击战影片《年轻的朋友》。1983年，出演香港导演李翰祥执导，梁家辉、刘晓庆主演的电影《火烧圆明园》、《垂帘听政》。同年与龚雪合作电影《大桥下面》出演见义勇为的男主角，该片获得文化部故事片一等奖 。两年后再次与龚雪合作拍摄了电影《多彩的晨光》 。1987年，赴英国留学，四年半后他留校任教。此后为BBC拍摄纪录片，给好莱坞导演乔治·卢卡斯《印第安纳琼斯》当副导演，他拍摄的短故事片《外国人》获得了英国学院奖 。1990年初，从英国到香港，加入徐克香港电影工作室，在《黄飞鸿1》中演孙中山，后又出演《黄飞鸿3》及《仙鹤神针》等。演戏的同时他还写剧本，《山不转水转》、《孙子》、《椅子》，五年中荣获台湾三届“优良电影剧本奖。 1995年，张铁林在动画电影《狮子王2》中为辛巴配音。 1996年，张铁林在刚开播的凤凰卫视主持节目《电影世界》 。之后进入内地，与赵明明、袁莉、赵薇主演了古装宫斗剧《汉宫飞燕》。1998年，与赵薇、林心如、苏有朋主演古装清朝喜剧《还珠格格》饰演乾隆，为观众所熟知，之后出演了《还珠格格2》 。2001年，搭档张国立、王刚主演古装剧《铁齿铜牙纪晓岚》饰演乾隆 ，之后三人形成“铁三角”，主演了《铁齿铜牙纪晓岚》系列的2、3、4部 ，以及古装剧《布衣天子》 、《少年宝亲王》 、《宋莲生坐堂》 和民国剧《五月槐花香》 。 2002年，在张卫健、严宽、苏有朋主演的古装喜剧《少年张三丰》中饰演澄空大师。联合斯琴高娃、李芯逸主演家庭情感剧《众里寻她千百度》饰林海涛 。2003年，在苏有朋、贾静雯主演的金庸武侠剧《倚天屠龙记》中饰演“光明右使”杨逍 。搭档吴奇隆、范冰冰主演武侠剧《名捕震关东》 。在焦恩俊、胡静主演的古装神话剧《十八罗汉》中饰演老方丈 。2004年，搭档李立群、李诚儒主演古玩题材电视剧《人生几度秋凉》，并演唱片尾曲 。在吴京、袁咏仪、淳于珊珊主演的动作剧《南少林三十六房》中饰演雍正 。在徐峥、张庭、汪芫主演的清朝喜剧《满汉全席》中饰演康熙 。2006年，联合孙兴、曹颖主演古装喜剧《铁将军阿贵》 。在保剑锋、金巧巧主演的古装励志剧《薛仁贵传奇》中饰李道宗 。参与霍建华、孙俪主演的偶像剧《屋顶上的绿宝石》 。 2007年，在唐国强、聂远主演的历史剧《贞观长歌》中饰罗艺 。与斯琴高娃、温峥嵘主演历史古装剧《无字碑歌》饰唐高宗李治 。与吕丽萍共同主演情感剧《非常夫妻》 。在范冰冰、赵文瑄主演的古装剧《大唐芙蓉园》中饰演李白 。2009年，联合郭富城、郝蕾主演电影《白银帝国》饰康老太爷 。2010年，搭档唐国强、刘劲、郑卫莉主演人物传记题材剧《黄炎培》饰黄炎培 。2011年，在历史古装剧《新水浒传》中饰演洪太尉 。在唐国强、蒋勤勤主演的历史剧《中国1945之重庆风云》中再次饰演黄炎培 。参与胡歌、陈意涵主演的青春励志时尚剧《摩登新人类》 。在陈坤、张雨绮主演的电影《钱学森》中饰演毛泽东 。2012年，在苗圃、罗晋主演的历史传奇古装剧《穆桂英挂帅》中饰演宋真宗 。与王志文、霍建华主演医疗题材剧《感动生命》 。主演革命史诗历史剧《红军东征》饰毛泽东 。与曹曦文、马跃主演古装剧《黄梅戏宗师传奇》 。2013年，参与拍摄廖京生、高云翔主演的抗战剧《刀影》中饰演彭振山 。2014年，担纲历史剧《文房四宝》的总导演并领衔主演，该剧是以“中国文房四宝之乡”—安徽宣城和“徽文化”、“徽商”为背景 。