克林斯曼出生于1964年7月30日，他的家乡在德国施瓦比亚地区的格平根。从小克林斯曼就显示出与同龄人不同的成熟，他总是依靠自己处理事情。在早年练习体操之后，克林斯曼对足球产生了兴趣，从而决定了影响其一生的职业方向。
在格平根青年队效力四个赛季后，克林斯曼打进了250个球，这引起了一些大球会的注意，1979年，他加盟了斯图加特踢球者青年队，并在两年之后顺利成为一线队的一员。83-84赛季，克林斯曼作为主力打进17个进球，之后转会至VFB斯图加特队。84-85赛季，克林斯曼帮助球队夺得西德甲级联赛的冠军，此后他便开始了辉煌的职业生涯。1987年，克林斯曼首次入选国家队，并在西德和巴西的一场友谊赛中打满了全场。
1988年，他以19个进球夺得了西德联赛的最佳射手，还获选西德足球先生。同年克林斯曼作为主力参加了欧锦赛，并且取得了第三名。而在汉城的奥运会上，他也有相当不错的发挥。一年之后，斯图加特获得了欧洲联盟杯的亚军。
1989年，克林斯曼以260万英镑的转会费加盟意甲国际米兰，开始了蓝黑军团的三驾马车时代。他和马特乌斯及布雷默一起帮助球队连续夺得意甲联赛的冠军和91年欧洲联盟杯的冠军，为国际米兰创造了一个时代。
1990年，克林斯曼参加了在意大利进行的第14届世界杯，他作为主力前锋和沃勒尔搭档，帮助西德队第三次夺得了世界杯，而他本人也入选了最佳阵容。在该年年底进行的世界足球先生评选中，克林斯曼名列第四。
1992年，德国队获得了欧锦赛的亚军，他们在决赛中输给了创造奇迹的丹麦队。不过克林斯曼依旧入选了最佳阵容。之后，他转会到了法甲的摩纳哥队，并在第一个赛季夺得法甲冠军。1994年，克林斯曼第二次参加世界杯，虽然老迈的德国队最终被保加利亚挡在了四强的门外，但是克林斯曼仍然以五个进球获得了银靴奖。在世界杯结束后，他转会到了英超的托特纳姆热刺队，还被评为1995年度的英格兰足球先生。
1996年，克林斯曼作为主力参加了在英国进行的欧锦赛，在不被人看好的情况下，德国队在福格茨率领下夺得了冠军。而在热刺度过辉煌的赛季后，克林斯曼回到德国，加盟拜仁慕尼黑，在拿到德甲和欧洲联盟杯冠军后，他于1997年再赴亚平宁，转会桑普多利亚。可惜此时的克林斯曼以处于职业生涯的后期，他的状态每况愈下，1997年12月，他又离开了意大利，重新来到热刺效力。1998年世界杯，德国队再次无缘四强，金色轰炸机宣布退役。
克林斯曼是德国足坛标志性的人物，也是穆勒之后最好的前锋之一。2004年，克林斯曼临危受命，开始执掌德国国家队帅印。虽然球队至今战绩不佳，遭到了德国球迷的广泛质疑，但是克林斯曼仍然有信心带领球队在本土进行的世界杯上打出好成绩，争取第四次举起大力神杯。