魏知古（647～715），深州陸澤（今河北深縣）人。魏知古為人正直，早年以才學知名。進士及第後，累授著作郎，參與撰修國史工作。武則天長安年間（701～704），曆任鳳閣舍人（即中書舍人）、衛尉少卿，兼檢校相王（即唐睿宗）府司馬等職。神龍初年（705），魏知古以才德晉升為吏部侍郎，加銀青光祿大夫，仍監修國史。睿宗時，又以曾為相王府僚屬的緣故，官拜黃門侍郎。

景雲二年（711），魏知古任右散騎常侍。當時睿宗為當了道士的金仙、玉真兩位公主修建道觀。雖逢盛夏時節，工程仍在繼續。知古見狀，立刻上疏勸諫睿宗，請求暫停修建工程，使百姓得以休息。睿宗以其言語頗為切直，對他很是賞識。不久，魏知古就以本官加同中書門下平章事，拜為宰相。後又遷為戶部尚書、侍中等職。他雖身在相位，但仍能時時進諫，對時政得失多有匡正。玄宗即位後，魏知古累封為梁國公。當時太平公主專擅朝政，與其黨羽宰相竇懷貞秘密策劃宮廷政變。在此關鍵時刻，得知確切消息的魏知古立刻向玄宗密報。玄宗在誅滅太平公主集團後，對魏知古特別恩寵，並親下敕書讚譽他說：“知古為相，多所匡諫。竭忠侍君，奸臣有謀，預奏其事，忠誠誌節，良有可嘉。”魏知古後來又主持過吏部選事，深為稱職。

開元初年，魏知古改任黃門監，不久又提升為紫微令（即中書令），深受玄宗信重。當時同為宰相的姚崇對魏知古頗為忌憚，於是暗地裏向玄宗進言，不可過分信重功臣。玄宗出於鞏固皇權的考慮，終於罷去了魏知古的相權，降其為工部尚書。魏知古於開元三年（715）病逝，享年六十九歲。

魏知古生前很有知人之明，任黃門侍郎時，他向玄宗舉薦了呂太一、齊浣、柳澤等人；主持吏部選事時，他又提拔過袁暉、陳希烈等人。這些人後來在朝廷多居清要之職，當時的輿論對此也多有讚譽。