1958年5月，毛澤東召集了中央軍委擴大會議，在會議召開前4天，劉亞樓在《解放軍報》發表了一篇題為《認真學習毛澤東軍事思想》的文章。
1959年10月1日，距受命主持軍委日常工作不足半月，林彪就在黨中央最權威的理論刊物《紅旗》雜誌上發表題為《高舉黨的總路線和毛澤東軍事思想的紅旗闊步前進》的文章。對毛澤東無條件信任的劉亞樓，自然也毫不猶豫地采取了讚賞這些主張的態度，並且，他認為林彪比自己政治上高明。
但劉亞樓很快就有了困惑。1961年4月30日上午，劉亞樓列席了林彪主持的軍委常委會議。在討論《合成軍隊戰鬥條例概則》（草案）時，羅榮桓明確提出：“帶著問題學毛選，這句話要考慮，這句話有毛病。”
“帶著問題學毛選”，這是林彪別出心裁提出來的。
林彪聽了，一臉不高興，立即反問道：“那你說應該怎麽學呀？”
羅榮桓坦率地說：“應當是學習毛主席著作的精神實質。‘帶著問題學’，這句話改掉為好。”
林彪聽了，半晌不吭聲，見沒有人發言支持他，隻好言不由衷地表示：“不好，就去掉嘛。”
羅榮桓又補充說：“還是去掉好。學習毛主席著作一定要從根本上學，融會貫通，要學習立場、觀點、方法，緊密聯係實際。”
還沒等羅榮桓說完，林彪便粗暴地打斷了他的話，宣布散會，接著氣衝衝地拂袖而去。
劉亞樓對林彪的突然發作，很不理解。
回家後，劉亞樓心情十分不好，他試圖給林、羅作調和。但葉群開始在公開場合說：“什麽林、羅、林、羅要分開，林、羅從來不是一起的！”
1963年新華社要公布軍隊領導人的名單，林彪不同意公布羅榮桓總政治部主任的任命，劉亞樓對此十分感慨。其間，他幾次去看望羅榮桓，羅榮桓和他作了促膝談心。9月28日，羅榮桓因病情嚴重住進北京醫院，劉亞樓多次前往探望。12月16日，羅榮桓逝世。
劉亞樓很希望林彪能參加羅榮桓的追悼會，但林彪猶豫不決，並且終於沒有前來。
劉亞樓和林彪的關係，一向是個敏感的話題。早在紅軍時代，作為林彪麾下能征善戰的一員驍將，劉亞樓有著顯赫耀眼的戰功。
對林彪卓越的軍事智慧，劉亞樓是由衷佩服的，但是，他並非無原則地聽從他。遼沈戰役中林彪試圖放棄打錦州時，劉亞樓就毫不含糊地予以反對。
有一次林彪還把他的“天機”以題字相贈的形式告訴了劉亞樓：“在生死攸關時，別人都是其次，隻有你最重要，此勝之要領也。”不管劉亞樓接受不接受這種“教條”，但林彪從不愛給部屬題字，然而，對劉亞樓卻幾破常例。可以看出，他和劉亞樓的關係確實非同一般。
林彪在建國後，尤其是擔任黨中央副主席和國防部長後，高級幹部到毛家灣來，都要經過林辦主任葉群這一關，但劉亞樓例外。劉亞樓身邊的工作人員曾津津樂道劉、林之間的兩件事。
一是劉亞樓有次去見林彪，在門口被林辦人員“擋駕”：“葉主任說了，有事可先通過她。”
“什麽葉主任不葉主任的！”劉亞樓一邊說，一邊又將步子往前跨了兩步。
林辦人員見勢不妙，慌忙堅持“原則”加以阻攔。劉亞樓見狀火了，掄起胳膊，用力推了他一個趔趄。
就在這當兒，葉群不失時機地出來了，她向劉亞樓致意後，大聲訓斥林辦人員：“今後103（劉在東北的代號）來找101（林在東北的代號），不要擋駕嘛。”
劉亞樓“哼”了一聲拔腿進屋。葉群此後“賦予”了他直闖林宅的“特權”。
還有一件事，一次林彪的秘書來找劉亞樓，不知什麽原因，談了幾句後，劉亞樓忽然發起火來，把他罵個狗血噴頭。
“這是葉主任的意思。”林彪秘書囁嚅道。
“什麽葉主任不葉主任，今後你們不要拿她來嚇唬我。”劉亞樓火氣更大了，說完，他氣哼哼地叫秘書張克裏送客。
在東北時，林彪和總部駐雙城，葉群住哈爾濱，個把月帶孩子來住幾天。有時，半夜三更聽見葉群嗚嗚地哭，若是一般同誌，兩口子吵架，誰能不過去勸勸呀？可這是林總呀！秘書、警衛們幹著急，也隻能“見死不救”。有次不知為什麽，葉群又犯在林彪手裏了，林彪勃然大怒，用馬鞭抽打葉群，葉群鑽在床底下，嚎哭不已。
住在西側的劉亞樓聞訊，趕快上前敲門，可門被反鎖了，而屋裏林彪還在氣哼哼地打葉群，劉亞樓果斷地踹開房門，奪下林彪手中的馬鞭。
結果，他見門外站了不少人，便大吼一聲：“看什麽，家裏出了點小事，有什麽看頭，統統給我立正，跑步走！”
清官難斷家務事，敢“斷”林彪家務事的，也許隻有劉亞樓了。自這以後，林彪再也不打葉群了。
葉群自然是感激劉亞樓的，不僅是感激，客觀地說，甚至還有點怕。這不僅在於林彪對劉亞樓的信任，還在於劉亞樓是個在原則問題上不低頭、不溜須拍馬的、正直的人。和當時許多高級幹部不同，劉亞樓不主張夫人參政，他的腦子裏也許有種“輕女”思想。當林彪問為何不讓翟雲英當辦公室主任時，劉亞樓非常直露地表達了他的觀點：“夫人參政會出亂子，弄不好會栽在夫人手裏。”
建國後，中國政壇大紅人林彪對劉亞樓信任不減。1959年林彪當了國防部副部長之後，劉亞樓和林彪更多接觸。
劉亞樓與林彪的個人關係應該說是要好並且密切的。但是，他與林彪的關係是建立在黨性原則之上的。