黃炎培有5個兒子2個女兒，他不僅是一位著名的職業教育家，也是一位對子女循循善誘的好父親，十分關心兒女的成長。
一天晚飯後，他故意把一把雞毛撣子扔在地上，然後喊：“孩子們，趕快上樓來，爸爸有事找你們。”
大女兒怕把撣子踩壞，便繞了一個彎跑到爸爸身旁。小兒子則徑直跨過撣子。小女兒更是用腳把撣子一下踢開。
這時，黃夫人也隨即跟上樓來，彎腰撿起了撣子放回了原處。
孩子們問：“爸爸，什麽事？”
“為了撣子的事，”他很嚴肅地說，“剛才撣子在哪裏？”
“在地上。”
“是誰把它撿起來的？”
“是媽媽。”
“為什麽你們就不知道撿起來呢？你們不懂規矩，看到東西亂扔熟視無睹。你們的媽媽長期操持家務，養成了勤勞的習慣，可你們什麽都依賴大人，這怎麽行？隻有現在學著做家務，學會自己料理生活，才能為國家為人民做事情。”
孩子們聽了父親的話，慚愧地低下了頭。從此以後，孩子們都爭著幫媽媽做事情，努力學著生活自理，各方麵都進步得都很快。
他對子女非常關心和愛護，卻從不許孩子亂花錢。他和妻子從來不亂給孩子零花錢，並且要求孩子們花錢要記賬。但是孩子們資助貧窮困難同學，他們卻常給些資助。他曾給三兒子黃萬裏寫了一則座右銘：“理必求真，事必求是；言必守信，行必踏實；事閑勿荒，事繁勿慌；有言必信，無欲則剛；如若春風，肅若秋霜；取象於錢，外圓內方。”
前四句，是他告誡兒子做人要追求真理，言必行，行必果；中間四句，是告誡兒子，事閑時要警策自身，事繁要冷靜理智，說話要算數，拋私欲心剛正方可無愧於心；後四句，是告訴兒子對友要和藹可親，對敵要幹脆淩厲，做人要外圓內方，謙虛謹慎待人，堅守信念對己。
在他的教育下，他的幾個子女，都有著傳奇的人生——
長子，黃方剛，哲學家，美國卡爾登大學獲文科學士學位；
次子，黃競武，革命人士。清華大學畢業，美國哈佛大學進修，獲經濟碩士學位。在那個血雨腥風的年代，其父順利逃脫虎穴，黃競武卻鋃鐺入獄，受盡了最殘酷的折磨，守口如瓶，嚴守機密。1949年5月18日淩晨，離上海解放僅有8天，就被國民黨國防部保密局特務活埋。
三兒子，黃萬裏，著名的水利學家，1937年獲得博士學位，清華大學教授。1956年５月，黃萬裏向黃河流域規劃委員會提出《對於黃河三門峽水庫現行規劃方法的意見》，發表於《中國水利》雜誌1957年第８期。《意見》指出：“四千年的治河經驗使得中國先賢千年以前就在世界上最早地歸納出了四種防洪方法：溝洫或攔河蓄水，堤工堵水，束水浚深治河，缺口疏水。另外，近四十年來，中外學者融合德國人治河的理論和經驗，又積累了不少新的知識。忽視這些知識，認為有了壩就可以解決下遊防洪問題，是不妥當的。”
黃萬裏說：“總之，‘有壩萬事足，無泥一河清’的設計思想會造成曆史上嚴重的後果。壩的功用隻不過是調節流率，從而替治河創造優良的條件，決不能認為有了壩就可以治好河。”
1957年6月10至24日，國務院召集了全國70名專家，在北京討論蘇聯專家已設計好的“黃河三門峽水庫方案”。會上隻有黃萬裏一人堅決反對在三門峽建壩。
他認為不能在這個淤積段上建壩，否則下遊的水患將移至中遊關中平原，而且河道裏的泥沙起上遊切割、下遊造陸的自然作用，建壩攔沙讓黃河清是違反自然規律，是不現實的，何況清水出庫對下遊河床也不利。
會上爭辯七天未果，黃萬裏退而提出：“若一定要修此壩，建議勿堵塞六個排水洞，以便將來可以設閘排沙。”此提議達成共識通過，然而施工時，蘇聯專家卻堅持原設計，將六個底孔堵死了。到70年代，這些底孔又以每個1000萬元的代價打開。曾參與三門峽工程技術工作的一位著名教授在《自述》中坦承：“參加了導流廊道的封堵，造成水庫淤積，危及關中平原，必須重新打開導流廊道，增建衝沙泄洪隧洞，減少水電裝機容量，為此深感內疚，看來要堅持正確意見，還是很不容易的。”
曾任毛澤東秘書、原水電部副部長的李銳對黃萬裏發出過這樣的評價：“中國過去有幾十年時間不尊重科學，不尊重知識。黃萬裏的遭遇是最典型的。黃萬裏的命運是個人的悲劇，也是中國的悲劇。他是中國水利界一個非常偉大的馬寅初式、陳寅恪式的悲劇人物。”
四子，黃大能，中華職業教育社名譽副理事長，著名水泥混凝土技術專家。
五子，黃方毅，美國杜克大學碩士，曾長年供職中國社會科學院、北京大學等從事經濟研究，並任美國霍普金斯大學高級國際研究院、哥倫比亞大學客座教授。第十屆全國政協委員。
七女兒黃學潮，曾加入中國致公黨，並被選為致公黨北京市委婦委會主任。
而且，他的孫輩，也是後起之秀。二兒黃競武之子黃孟複，曾任全國政協副主席全國工商聯主席；三兒黃萬裏的長子黃觀鴻，天津大學教授。