高进之是沛国（今江苏沛县）人。他的父亲高瓒，会拳脚有气力，曾去给朋友送丧，回来的时候，朋友的妻子被土匪抢走，高瓒去救她，杀了七人，而朋友的妻子也刎颈而死，高瓒于是亡命江湖。高进之十三岁时，母亲刘氏去世，安葬完毕，他四处奔走，寻找父亲，但没有找到，于是去拜见征北将军刘牢之。刘牢之正在举行宴会，高进之进入帷帐，推走了刘牢之的上客占据了他的座位，打吃大喝，满坐人都很吃惊。刘牢之向他行礼，询问他所擅长的地方，高进之说：“我善于算出秘密的数字。”刘牢之问部下铠甲、兵器、粮草的数量，高进之掐指一算，一点都不差，于是任命他为行军司马。过了五天，高进之说：“刘公好猜疑而且不宽容忍让，怨恨别人而且容易叛变，自己如果不离开，一定会遭到祸害。”于是离开了刘牢之。　　他与下沛人薛彤为友，因为薛彤和檀道济友好，他们三人，知投义合，杀死牲畜结成生死之交。跟从檀道济讨伐桓玄，俘虏了敌人的大将王雅，在奔牛塘打败了桓玄的军队，又杀掉了路雍岐（人名），获得了天子的旌节以及桓玄所乘的船。事情平定后，把功劳让给檀道济。围攻广固（地名）的时候，高进之制作了攻城的器具，非常精巧，广固被平定后，任命他为广固相（官职名）。徐羡之、傅亮等人企图废掉皇帝另立一个，招来檀道济，檀道济和高进之商议，高进之说：“您打算效仿霍光吗？还是效仿曹操？效仿霍光的话，就废掉皇帝；效仿曹操，就不要废。”檀道济吃惊的询问，高进之说：“您如果想辅佐宋王（刘裕），则少帝不能废掉，不把琅琊王立为皇帝，天下就不是宋王所有，所以一定要废掉少帝。如过您想自己做皇帝，就要保持长久的政治环乱，找一个愚昧的皇帝，您修德布施恩惠，招罗心腹，天子不是您的还是谁的？所以一定不要废掉少帝。”高进之这时候握着腰间的佩刀侍立在檀道济身边，不同的意见的人，就杀掉。檀道济走下台阶，叩头说：“武皇帝在上，我檀道济如过有二心，就让上天立即灭亡我。”于是和高进之商定，既不充当牵头的人，亦不阻止徐羡之等人的图谋。等到谢晦叛乱的时候，士兵锐气很足，檀道济非常担心，高进之仿冒檀道济的笔记给谢晦写信，和他联盟，谢晦很高兴，没有作防备，发动全部精锐兵力沿江而下。高进之于是走小路到江陵，扬言说：“檀江州（檀道济）率领重兵在江中打败了谢晦，斩了他的头颅来宣告天下。”所以谢晦的党羽听说后都解散了，谢晦的部下都闭门拒绝他来投奔，事情平定后，任命他为司空参军。　　后来到彦之（人名）讨伐北魏，听说了高进之的名气，请求他同去，高进之告诉仆人说：“到公一定会失败，我说出来就是惑乱军心，不说就会跟着受到祸害。”于是请求担任护粮的官职，才幸免于难。檀道济晚年害怕遭到陷害，他的夫人刘氏派丫环来请教高进之，高进之说：“道家讲究不要太盈太满，就算这样灾祸依然也有无法避免的。但是司空（檀道济）功名盖世，如果死得其所，也不亏了。”刘夫人哭着告诉了檀道济，檀道济更加狐疑，没多久，他们就被捕了，檀道济目光如炬，脱下头巾扔在地上说：“你损坏了自己的万里长城！”薛彤说：“身经百战而死，这不是意外的事。”高进之捋着胡子笑着说：“我家几代都是农民，我父亲为了义气味朋友而死，我因为忠诚为皇上而死，这是大宋的光荣。”坐在地上接受死刑，神色不变。高进之没有家眷，他的仆人鲁健跟随高进之一起死了，所以没有人来为他收尸。薛彤是下沛人，他死后，他的儿子背着他的尸骨回家安葬。