魏知古，深州陸澤人。正直有才能，考中進士。以著作郎的身份編修國史，幾次升任衛(wèi)尉少卿，檢校相王府司馬。神龍初年，擔任吏部侍郎一職，因為母親去世而解職。守孝期滿，擔任晉州刺史。睿宗即位，因為他是舊屬吏而授任黃門侍郎，兼修國史。

　　適逢建造金仙、玉真觀，雖然正值盛夏，工程緊迫，魏知古進諫說：“臣聽說"古代的君主統(tǒng)治百姓，一定會時時注意百姓憂慮的事情，如果百姓憂慮食物就廢除百事’，因此說"不做以無益害有益的事’。又說"不要違背百姓而放縱自己的欲望’。這都是興化立治、施政養(yǎng)民的根本。如今為公主建造道觀，將以此樹立功德祈求福佑，然而造觀的地方都是百姓的住宅，忽然逼迫，令他們轉移搬遷，扶老攜幼，拆椽除瓦，怨聲載道。違背人事和天時，興起無用的勞作，注重不急的事務，百姓心里動蕩不安，眾人議論紛紛。陛下為民父母，想要憑什么安定他們呢？希望頒下明詔，順從人愿，停止勞役，贏得美名，這樣過失還不算太多�！笔枳嗖槐换实鄄杉{。魏知古又進諫說：“自從陛下剪除兇逆，繼承帝位，百姓仰慕，認為朝廷有了新政。如今風俗教化衰敗日益嚴重，府庫空虛，官員日增，各部門試補、員外、檢校官已超過兩千，太府的布帛為此用盡，太倉的米糧不能供給。臣先前請求停止營造金仙、玉真二觀，到現(xiàn)在還未停止。如今前遭水患后遇旱災，五谷不熟，因此到來年春天，必定嚴重饑荒，陛下想要如何救濟天下呢？另外突厥對中原為患已久，雖然派遣使者請求婚娶，恐怕豺狼之心，弱小時就順服，強大時就驕逆，一旦時機成熟兵強馬壯，如果乘中原饑荒，窺犯邊塞，又如何防備呢？”皇帝贊賞他耿直，讓他擔任左散騎常侍同中書門下三品。

　　先天元年，魏知古擔任侍中。隨從皇帝在渭川打獵，獻詩婉言規(guī)勸，皇帝親筆下詔答復給予表揚，并且賞賜五十匹布帛錦緞。第二年，封梁國公。竇懷貞等陰謀亂國，魏知古秘密揭發(fā)他們的陰謀，竇懷貞被殺，賜封二百戶，物五百段。玄宗遺憾先前的賞賜少，親筆下詔又增加一百戶，表彰他顯著的節(jié)操。這年冬天，詔令魏知古主持東都吏部選事，他以稱職而聞名，皇帝下詔稱贊并賜衣一套。從此皇帝待他恩意更厚，他由黃門監(jiān)改任紫微令。與姚崇不和睦，改授工部尚書，罷除參知政事的宰相職位。開元三年魏知古去世，終年六十九歲。宋璟聽說后感嘆道：“叔向是古代流傳的正直的典范，子產是古代流傳的仁愛的典范，兼而有之者就是魏公��！”追贈魏知古為幽州都督，謚號忠。