刘知远，本沙陀人，少时牧马为生，后为后唐明宗麾下骑将。知远沉静有谋，作战果敢，石敬瑭为后唐北京留守时，奏请明宗将知远拨归麾下，任命为牙门都校。明宗死后，知远力劝石敬瑭南下，石氏晋国初建，即以知远为侍卫马步都指挥使，权点检随驾六军诸卫事，典掌禁军。天福六年 (941) 七月，为北京留守、河东节度使。次年，石敬瑭卒，少帝即位，知远据地河东，扩充兵马，对契丹的屡屡南下不闻不问，河东兵马很快增至五万，势力之强，远过于其它藩镇。至天福十二年(974)正月，契丹入据开封，俘少帝，知远仍不肯入援，只是分兵遣将，防守四境。
契丹主耶律德光入据开封后，改穿中原衣冠，仍委用后晋百官，并任用李崧为太子太师、枢密使，冯道为太傅，摆出一副要久居中原的架势。后晋诸藩镇多上表称臣，有些不愿降归契丹的藩镇则投向后蜀或南唐。刘知远也遣将王峻到开封，向契丹表示庆贺，并表示自己军务在身，不能亲自前来。契丹主向知远赐木拐，并在诏书中称知远为儿，想使其前来归附。契丹习俗，只有地位极高的大臣才有可能得到木拐，王峻持木拐返回途中，契丹兵众有遇到者，纷纷避道让路，王峻乘机了解到了契丹在各地统治的一些情况。王峻刚返回，知远又派北都副留守白文珂向契丹主进献名马及名贵缯帛，继续探觇契丹情况，不肯轻易称臣。契丹主也深知刘知远观望犹豫，不肯来开封称臣，在白文珂临走时，让他转告知远“汝不事南朝，又不事北朝，究竟何为?”南朝指后晋少帝，北朝指契丹。王峻与白文珂均言契丹内部混乱，政令不一，而且放纵骑兵四出，以牧马为名，到处剽掠，名之曰“打草谷”。自洛阳至开封，加上郑、滑、曹、濮等州，人烟断绝，财畜殆尽。各地百姓纷纷兴兵抗拒，归附契丹的后晋藩镇也多阳奉阴违。面对这种局面，知远决定兴兵自立。藩汉孔目官郭威、武节都指挥使史弘肇以及行军司马张彦威等人积极劝进。二月十日，刘知远称帝，自称不忍改后晋正朔，又不喜欢“开运”年号，遂使用晋高祖石敬瑭的天福年号。
知远称帝后，面临的局面十分严峻，当时河北，河南地区完全被契丹占有，关中诸藩镇也多归降契丹。河东三面受敌，契丹主听到刘知远称帝的消息，分别向潞州 (今山西上党) 相州 (今河南安阳) 孟州 (今河南孟县北) 等战略要地派出节度使，率重兵防御。
知远称帝后，并不急于出兵，自称“用兵有缓急，应当随时制宜。”先遣使到各个藩镇游说，争取归附。又广招士卒，亲自训练，等待着有利时机。
大约与知远称帝的同时，陕州军将王晏、赵晖等人拥兵杀契丹将，据有陕城 (今河南三门峡市西)，知远称帝后，向知远表示归附，知远喜不自胜，对使者道“此咽喉之地归我，天下不忧不定。”接着，相州、河阳二地也相继归附。
三月，契丹主率后晋文武官员数千人北行，留萧翰为宣武节度使，镇守开封。契丹主行至栾城 (今河北栾城西) 发病而死。契丹诸将拥立兀欲为主，但并未征得耶律太后的认可，兀欲准备率军北上，逼太后承认他的帝位。契丹在河南、河北的兵马人心惶惶，举措不定。
五月七日，知远召见群臣，商计进取战略，诸将多请求自井陉关出师 (今河北井陉西南一带)先取镇、魏两州、平定河北，河南就会望风归降。知远则主张由相州南下。郭威提出若出兵河北，我军孤立无援，很容易被契丹围困，但出兵相州，山路崎岖，人烟稀少，粮草无法供应。近来陕州、晋州均已归附，若由晋州南下，过陕州东行，不出两旬，洛阳、开封即可攻下。知远采纳了这一建议。十二日，率军自太原出发，以史弘肇为先锋将。弘肇治军严谨，手下将校稍有不规，马上斩首。行军途中不许士卒践踏民田，凡有践民田或者在树上拴马者，都立即斩首。因此，军中整肃，莫敢犯令，他的这支军队也所向必克。
自太原南下的第一个目标是泽州(今山西晋城)，泽州是知远南下的必由之路，但刺史翟令奇死死固守，等待契丹援兵。知远一度因弘肇兵少，想召其退兵，暂缓进攻。但宰相苏逢吉等人坚持认为不可，知远未贸然下令，先派人到泽州征求弘肇的意见，弘肇也主张势已至此，可进不可退，知远坚定了攻泽州的决心。几天后，泽州攻下，弘肇引兵出陕州飞抵河阳(孟州)，与归附知远的河阳节度使武行德合兵，契丹在河南的兵马纷纷北遁。
留守开封的萧翰见知远来势凶勇，也想脱身北逃。他先诈称奉契丹主命，让后唐明宗的儿子许王从益称帝，自己要受命赴恒州。萧翰一走，从益及其母王淑妃就派人向刘知远上表称臣，请他早赴京城。
六月三日，知远至洛阳，在开封的后晋百官派人迎候，知远下诏凡受契丹任命者都不必忧惧，仍可留任原职。但他却秘密派人杀死了李从益与王淑妃，他不愿意这位随时有可能被拥为皇帝的人继续存在。九日，知远进入开封，改国号为汉，仍用天福年号。下令凡契丹所任命节度使以及各级将吏，要各守其职，不再变更。各地藩镇陆续上表称臣。七月，握有重兵的天雄节度使杜威、天平节度使李守贞也相继表示臣服。
自藩镇起家的刘知远未被这一“四海宾服” 的景象所迷惑，他深知这些藩镇一夜之间又都可能叛归他人或拥兵自立，尤其是拥有重兵的杜威与李守贞两人更是他心腹之患。
杜威在向知远称臣时，为了表示诚意，还请求改任他镇节度使。这本来只是一个表示而已，但刘知远却顺水推舟，任命杜威为归德节度使，接着又任命李守贞为护国节度使。
杜威七月初接到命令后，拒绝执行，把儿子送往契丹为质，请求援助。契丹派出一千五百人外加幽州兵二千人赶到天雄节度使治所魏州(今河北大名)，知远马上下诏削去杜威官爵，任命前归德节度使高行周为招讨使、镇守节度使慕容彦超为副，讨伐杜威。魏州城下，两员大将发生争执，彦超主张迅速攻城，行周却主张长期围困，两人争来争去，始终不能统一，高行周与杜威是儿女亲家，其女嫁杜威之子。慕容彦超四处扬言行周因女儿的缘故，爱贼不攻。两人关系更加僵化。知远恐发生意外，亲自赶往魏州，驻进高行周营中。行周向其建议： 城中尚有粮草，若急于攻城，死伤太多，且不一定能很快攻下，不如以逸待劳，四面围困，城中粮草用尽，自然投降。”知远点头称是，但慕容彦超又向知远陈述立即攻城的利处，知远又被他说动，遂亲督诸将攻城，苦战一日，士卒死伤万余人，未有结果。知远反过来又接受高行周的建议。这样，一直围困到十一月，城中食尽力穷，开门投降。刘知远一方面将杜威牙将百余人统统杀掉，另一方面仍擢升杜威为太傅兼中书令，封楚国公。杀牙将是为消除后患，为杜威升官赐爵则是要安定其它藩镇。处理完魏州之事，知远于十二月带杜威等人回到京城。次年正月，知远宣布改元，定年号为“乾祐”。并将自己的名字改为“暠”。将二个常用字“知远”改为一个僻字暠，既表示了皇帝的尊贵，又为人们的避讳提供了方便。这是历代皇帝的习惯作法。
一月二十七日，知远突然病重，召苏逢吉、史弘肇、郭威、杨邠入宫，要他们辅立皇子承祐。并嘱托 “善防杜威”。当天，卒于万岁殿，终年54岁。
苏逢吉等人秘不发丧，仍以知远名义下诏，称杜威父子谤议惑众，应立即斩首。二月一日，又立承祐为周王，同平章事。宣布完这一诏令后，才正式发表，宣告知远遗命，令周王即皇帝位。
知远庙号高祖，谥睿文圣武昭肃孝皇帝，葬于河南告成县 (今河南登封) 之睿陵。
