张铁林出生于河北唐山，从小在陕西渭南长大，1973年上山下乡插队到临潼务农，1976年招工回城返回西安当一名装卸工。1977年恢复高考后，张铁林决心做一名演员，1978年考入北京电影学院表演系。1982年毕业后分配到天津电视台演员剧团。1987年赴英国留学，十年后加入英国国籍。

1979年，刚上大二的张铁林参与拍摄了中央电视台的第一部单集电视剧《有一个青年》，在片中扮演男主角顾明华，之后在影片《年轻的朋友》中饰解放军战士小何。

1983年，出演香港导演李翰祥执导，梁家辉、刘晓庆主演的电影《火烧圆明园》、《垂帘听政》。同年与龚雪合作电影《大桥下面》出演见义勇为的男主角，该片获得文化部故事片一等奖。两年后再次与龚雪合作拍摄了电影《多彩的晨光》。

1987年，赴英国留学，四年半后他留校任教。此后为bbc拍摄纪录片，给好莱坞导演乔治·卢卡斯当副手，他拍摄的短故事片《外国人》获得了英国学院奖。

1990年初，从英国到香港，想投奔徐克学习武侠电影的制作理念，随后与徐克签约，在《黄飞鸿》中演孙中山，后又出演徐克影片《仙鹤神针》等。演戏的同时他还写剧本，《山不转水转》、《孙子》、《椅子》，五年拿了三个奖。

1995年，张铁林在《狮子王2》中为辛巴配音。

1996年，因为电影市场不是很景气，张铁林在刚开播的凤凰卫视主持节目《电影世界》。之后进入内地，与赵明明、袁莉、赵薇主演了古装宫斗剧《汉宫飞燕》。

1998年，与赵薇、林心如、苏有朋主演古装清朝喜剧《还珠格格》饰演乾隆，为观众所熟知，之后出演了《还珠格格2》。

2001年，搭档张国立、王刚主演古装剧《铁齿铜牙纪晓岚》饰演乾隆，之后三人形成“铁三角”，主演了《铁齿铜牙纪晓岚》系列的2、3、4部，以及古装剧《布衣天子》、《少年宝亲王》、《宋莲生坐堂》和民国剧《五月槐花香》。

2002年，在张卫健、严宽、苏有朋主演的古装喜剧《少年张三丰》中饰演澄空大师。联合斯琴高娃、李芯逸主演家庭情感剧《众里寻她千百度》饰林海涛。

2003年，在苏有朋、贾静雯主演的金庸武侠剧《倚天屠龙记》中饰演“光明右使”杨逍。搭档吴奇隆、范冰冰主演武侠剧《名捕震关东》。在焦恩俊、胡静、何润东主演的古装神话剧《十八罗汉》中饰演老方丈。

2004年，搭档李立群、李诚儒主演古玩题材电视剧《人生几度秋凉》，并演唱片尾曲。在吴京、袁咏仪、淳于珊珊主演的动作剧《南少林三十六房》中饰演雍正。在徐峥、张庭、汪芫主演的清朝喜剧《满汉全席》中饰演康熙。

2006年，联合孙兴、曹颖主演古装喜剧《铁将军阿贵》。在保剑锋、金巧巧主演的古装励志剧《薛仁贵传奇》中饰李道宗。参与霍建华、孙俪主演的偶像剧《屋顶上的绿宝石》。

2007年，在唐国强、聂远主演的历史剧《贞观长歌》中饰罗艺。与斯琴高娃、温峥嵘主演历史古装剧《无字碑歌》饰唐高宗李治。与吕丽萍共同主演情感剧《非常夫妻》。在范冰冰、赵文瑄主演的古装剧《大唐芙蓉园》中饰演李白。

2009年，联合郭富城、郝蕾主演电影《白银帝国》饰康老太爷。

2010年，搭档唐国强、刘劲、郑卫莉主演《黄炎培》饰黄炎培。

2011年，在《新水浒传》中饰演洪太尉。在唐国强、蒋勤勤、张国立主演的历史剧《中国1945之重庆风云》中饰演黄炎培。参与胡歌、陈意涵、陈柏霖主演的青春励志时尚剧《摩登新人类》。在陈坤、张雨绮主演的电影《钱学森》中饰演毛泽东。

2012年，在苗圃、罗晋主演的历史传奇古装剧《穆桂英挂帅》中饰演宋真宗。与王志文、霍建华主演医疗题材剧《感动生命》。主演革命史诗历史剧《红军东征》饰毛泽东。与曹曦文、马跃主演古装剧《黄梅戏宗师传奇》。

2013年，参与拍摄廖京生、高云翔、吕夏主演的抗战剧《刀影》中饰演彭振山。