1951年12月29日，金士杰出生于中国台湾屏东下的一个眷村。小学时，金士杰在眷村里的空军小学念书，幼时他活泼搞怪，被伙伴们起外号叫“小丑”。他小时候只要稍稍察言观色，就能发现冒犯哪位小伙伴了，于是他想尽办法逗小伙伴笑。大学时，金士杰报考了屏东农专畜牧科，毕业后，他成了一名兽医，在牧场待了一年半。1978年，金士杰离开牧场去台北，他含糊着告诉父母要做自己觉得很重要的事。初到台北，金士杰经常过着有上顿没下顿的生活，直到后来找到了一份仓库搬运工的工作。白天很累，只能在晚上写剧本、写小说。除了创作，他唯一的乐趣就是去看舞台剧，久而久之，与工作人员们也都熟悉了起来，他也会时常发表一下自己的想法，现场的观众以及工作人员对他的看法也非常的认可，因此金士杰结识了一批志同道合的朋友。

1978年，创作了个人首个剧本《演出》；同年，出演了由秦汉、林凤娇领衔主演的爱情喜剧片《我踏浪而来》，该片为其影视处女作。

1979年夏天，金士杰抱着试试看的态度，找来了二三十个对表演感兴趣的人成立了一个业余话剧团——“兰陵剧坊”，这是台湾第一个实验剧团。

1980年，金士杰根据传统京剧《荷珠配》编导了话剧《荷珠新配》，并携该剧参加了台湾第一届“实验剧展”，他率领剧团首次走上正式舞台。《荷珠新配》首演后，被台湾媒体称为“台湾小剧场运动的发端”。同年，金士杰执导了短片《那个破楼梯怎么办？》，该片获得了第三届金穗奖16mm短片佳作奖。

1982年8月23日，与顾宝明、李立群、李天柱等共同出演的爱情剧《守着阳光守着你》首播。同年，创作并参演了舞台剧《悬丝人》和《今生今世》。

1983年，金士杰的兰陵剧团与赖声川合作，一起通过即兴创作结合田野调查的方式创作了舞台剧《摘星》，该剧讲述了智力障碍儿童家庭的故事，金士杰在剧中饰演一名智障儿童。1984年，获学术交流基金会傅尔布莱特艺术家奖金赴美国研读。

1986年3月3日，舞台剧《暗恋桃花源》首演于台北“国立”艺术馆，金士杰除了担任男主角“江滨柳”外，还参与了该剧剧本的创作；12月19日，与缪骞人、李立群等联袂出演的剧情片《恐怖分子》上映，他在片中饰演女主角周郁芬的老情人“沈维彬”。

1988年5月15日，与张艾嘉、邓汉联合出演的剧情片《酸甜》上映。1989年9月12日，与梁朝伟、辛树芬、陈松勇等合作出演的剧情片《悲情城市》在威尼斯电影节首映；9月30日，由赖声川构思、执导的相声剧《这一夜，谁来说相声》首演，金士杰在剧中出演“白坛”。同年，兰陵剧坊解散。

1991年7月27日，与张震、杨静怡、张国柱等共同出演的犯罪电影《牯岭街少年杀人事件》上映；9月6日，客串出演的剧情片《棋王》上映，他在片中饰演外号“高脚卵”的象棋棋手“倪斌”。

1992年9月10日，与林青霞、李立群联袂主演的爱情喜剧片《暗恋桃花源》上映，该片由赖声川编导的同名舞台剧改编而成。

1994年7月21日，与刘德华、刘松仁、陈少霞等联合主演的剧情片《天与地》上映；同年，与潘虹、寇世勋、张国柱等主演了由余明生执导的电视剧《地久天长》。

1995年10月12日，与顾宝明、郎祖筠、邓程惠等合作主演的情景喜剧《我们一家都是人》首播；同年，拍摄了话剧《意外死亡》，该剧是金士杰根据意大利剧作家达利欧·弗的著作《Morteaccidentalediunanarchici》改编的。

1996年，与岳翎、焦恩俊出演了由沈怡执导的爱情剧《花落花开》。1997年12月23日，与梁家辉、刘德华、李立群等共同出演的犯罪动作片《黑金》上映。

1998年3月13日，与刘若英、王朝明、伍佰等联袂出演的爱情喜剧片《征婚启事》上映；同年，他还出演了由赖声川执导的舞台剧《红色的天空》。1999年5月1日，与吴倩莲、陈小春、郎雄联合主演的爱情喜剧片《春风得意梅龙镇》上映。

2000年，与倪敏然、赵自强等共同主演了由赖声川执导的相声剧《千禧夜，我们说相声》；同年，他还出演了赖声川执导的舞台剧《如梦之梦》。

2001年冬，与万芳、夏靖庭等合作主演了爱情类话剧《收信快乐》，并在剧中担任导演及艺术顾问。2002年秋，由金士杰自编自导的话剧《永远的微笑》在国家话剧院公演，该剧由赵自强、萧艾、曾江共同主演。

2003年2月17日，与范植伟、金勤、柯俊雄等联袂出演的同性恋题材电视剧《孽子》首播。2005年，出演了由赖声川、钟欣志联合执导的喜剧类话剧《威尼斯双胞案》。

2006年12月26日，与马跃、马少骅、马精武等一同主演的古装剧《贞观之治》开播，他在剧中饰演贞观名相“魏征”。同年，他还与杜雨露、何赛飞等共同出演了家庭伦理剧《家门》。

2007年，与张小燕、柳瀚雅、卜学亮合作主演的话剧《在那遥远的星球，一粒沙》首播。2008年7月12日，与香川照之、户田惠梨香、周渝民联袂出演的剧情片《斗茶》上映；11月28日，与张震、桂纶镁、戴立忍联合出演的剧情片《停车》上映。

2009年4月11日，与周渝民、赵又廷、陈意涵等一同出演的犯罪动作剧《痞子英雄》首播；8月21日，与郭富城、郝蕾、张铁林共同出演的古装电影《白银帝国》上映。

2010年9月28日，与杨紫琼、郑雨盛等合作出演的古装武侠片《剑雨》上映，他在片中饰演江湖名医“李鬼手”；10月8日，主演的剧情片《盲人电影院》在釜山国际电影节首映，他在片中饰演在自家开了专门给盲人放电影的电影院的孤寡老人“老高”，凭借该片获得了第3届澳门国际电影节最佳男配角奖及第28届中国电影金鸡奖最佳男配角奖双提名；10月19日，与许玮甯领衔主演的纪录片电影《外滩佚事》上映，他在片中扮演上海滩大亨“杜月笙”。

2011年2月，搭档卜学亮主演的话剧《最后14堂星期二的课》首演，他在剧中因患渐冻症即将离世的大学教授“莫利”；2月27日，与张睿家、吴中天联合主演的公视HD单元剧《十七号出入口》播出，凭借该剧获得了第46届台湾电视金钟奖迷你剧集/电视电影男主角提名；5月7日，与寇世勋、林佑威、赖雅妍等联袂主演的情感商战悬疑剧《瑰宝1949》播出，凭借该剧获得了第46届台湾电视金钟奖戏剧节目男主角提名；5月27日，为3D动画电影《功夫熊猫2》在台湾上映，金士杰在片中为“师傅”配音；9月18日，与林依晨、陈柏霖等一同出演的都市爱情剧《我可能不会爱你》开播，他在剧中饰演李妈的“知己”之一，也是大仁的忘年之交“白叔叔”。

2012年4月1日，与陈柏霖、童瑶共同主演的爱情电影《台北飘雪》饰演，金士杰出演老中医“马爷爷”；4月27日，与赖雅妍、吴朋奉、曾珮瑜等联袂主演的家庭喜剧片《不倒翁的奇幻旅程》上映；12月20日，与黄晓明、阮经天、李宇春等联合出演的古装武侠片《血滴子》上映。

2013年1月8日，与梁朝伟、章子怡等一同出演的功夫电影《一代宗师》上映；3月1日，与范逸臣、徐德亮等合作出演的爱情喜剧片《三月情流感》上映，他在片中扮演号称包治”情爱中的百病”的麻辣情医“江湖”；8月30日，与张孝全、王羽、戴立忍等共同出演的惊悚电影《失魂》上映。

2014年6月1日，与郑元畅、张钧甯、孟耿如等联袂出演的偶像剧《你照亮我星球》播出；8月7日，与张震、王千源、李东学等联合主演的古装武侠片《绣春刀》上映，他在片中扮演崇祯时期第一大宦官“魏忠贤”，凭借该角色获得了第51届台湾电影金马奖最佳男配角提名；10月1日，出演的犯罪动作片《痞子英雄之黎明升起》上映，他在片中出演了海港城总指挥“石永光”。

2015年9月1日，领衔主演的网络微电影《老兵》上映，他在片中饰演生活在红色旅游风景区的国民党老兵“何卫国”；11月6日，与舒淇、彭于晏、潘虹合作主演的爱情电影《剩者为王》上映；12月10日，出演的功夫电影《师父》上映，他在片中扮演津门武行正宗的领头老大津门武馆馆主“郑山傲”，凭借该角色获得了第6届北京国际电影节最佳男配角奖；12月11日，由张钊维执导的纪录片《冲天》上映，金士杰在片中担任旁白；12月31日，客串出演的动作喜剧片《唐人街探案》上映，他在片中出演唐人街黑帮老大“闫先生”。

2016年1月22日，出演的惊悚电影《恶灵之门》上映，他在片中扮演擅长以灵符驱邪除魔的苗世宗祠馆的馆长“苗康”；7月21日，出演的中国国内首部应急题材轻喜剧《青年旅舍》首播，他在剧中饰演房东“张教授”；7月8日，奇幻动画电影《大鱼海棠》上映，金士杰为片中掌管所有死去人类灵魂的“灵婆”配音；12月23日，与梁朝伟、金城武、陈奕迅等共同出演的爱情喜剧片《摆渡人》上映；12月29日，与潘粤明、林鹏、吴樾等联袂出演的犯罪喜剧片《冒牌卧底》上映。

2017年1月28日，与邓超、赵丽颖、董子健等联合出演的喜剧电影《乘风破浪》上映；2月3日，客串出演的动作喜剧电影《东北往事之破马张飞》上映，他在片中演绎老谋深算的黑帮教父“蒋董”；4月17日，与靳东、白百何等一同出演的医疗剧《外科风云》首播，他在剧中出演仁合医院的老院长“修敏齐”；6月5日，参演的古装剧《楚乔传》播出，他在剧中扮演宇文门阀三房老太爷“宇文席”；6月12日，客串出演的都市情感剧《深夜食堂》开播，该剧由黄磊领衔主演；6月29日，与杨幂、霍建华合作主演的科幻动作片《逆时营救》上映；7月19日，出演的古装武侠片《绣春刀Ⅱ：修罗战场》上映，凭借该片获得了第1届塞班国际电影节最佳男配角提名；11月24日，出演的悬疑电影《推理笔记》上映，他在片中饰演女主角夏早安亦师亦友的图书管理员“老周”；12月20日，与范冰冰、梅尔维尔·珀波共同主演的剧情片《画框里的女人》上映，他在片中饰演大太监“陈德甫”。

2018年2月1日，拍摄的都市时尚爱情喜剧《幽兰湖之御厨驾到》播出，他在剧中扮演与世隔绝了近二十年的世外高人“张一鸣”；4月1日，与陈思诚、佟丽娅、袁弘等联袂出演的年代传奇剧《远大前程》首播；6月4日，与杨旭文、杨蓉、麦迪娜等联合出演的古装奇幻剧《钟馗捉妖记》开播；6月15日，出演的喜剧电影《猛虫过江》上映，他在片中饰演男主角沈福爷爷的管家“达叔”；10月31日，由杨阳执导的古装玄幻剧《将夜》在腾讯视频播出，金士杰在剧中饰演宁缺的符道师父“颜瑟”。

2019年1月21日，与春夏、张亦驰等联袂主演的短片《七里地》上映；3月29日，主演的喜剧电影《人间·喜剧》上映，他在片中饰演狡猾的首富“杨台竣”；4月17日，出演的都市心理健康题材剧《爱上你治愈我》首播，他在剧中饰演男主角颜书仁的精神导师“陈沅庚”；6月21日，出演的青春爱情片《我的青春都是你》上映，他在片中饰演畜牧系系主任“王教授”；6月22日，与黄志忠、李倩、吴刚等共同出演的年代刑侦悬疑剧《神探柯晨》开播。

2020年1月7日，主演的警匪动作片《三叉戟》正式杀青；3月20日，与黄晓明、尹正、佘诗曼合作出演的民国传奇情感剧《鬓边不是海棠红》播出；3月27日，与周迅、黄觉、惠英红等联合出演的的都市女性剧《不完美的她》上线腾讯视频和爱奇艺；6月12日，出演的民国传奇剧《民初奇人传》首播，他在剧中饰演善于占卜卦算的神通行之主“八仙”。

2021年4月9日，特别出演的奇幻冒险电影《超级的我》上映，他在片中饰演指导男主角桑榆获得进出梦境超能力的煎饼摊大爷；10月15日，与杨贵媚、张诗盈、张再兴等共同主演的短片《讲话没有在听》上映。

2022年3月24日，参演的抗战剧《烽烟尽处》播出，他在剧中饰演教予男主角张松龄很多军事技能以及人生道理的“魏丁”。

2023年6月10日，出演的电影《极寒之城》上映，他在片中扮演蛰伏在郊外裁缝铺里的枪手“老焦”；8月20日，与张震、陈以文等共同出演的电影《余烬》正式杀青；9月6日，特别出演的科幻悬疑剧《永生密码一九七》发布首个预告片；9月8日，出演的院线电影《高桩狮妹》在佛山开机。