阎锡山叫侍从做了一块匾，他亲自题了“菁山草庐”4个字，挂在门楣上。
“菁山草庐”幽雅宁静，却仍然没有电话、电灯和自来水，更谈不上业余生活。一些年纪较轻的部属，背地里免不了时有烦言。阎锡山倒处处显得很超脱，还和愁眉苦脸的侍从们说：“喝泉水好啊，没有漂白粉的味道，有助于你们延年益寿，得道成仙。”
来到菁山的阎锡山，在侍从们眼中，也似乎真有些“仙风道骨，莫名其妙”的情态。他写了很多对联，贴在“菁山竹庐”的大小门枋立柱上。
一为：
避避避，断断断，化化化，是三步工夫；
勉勉勉，续续续，通通通，为一等事功。
门额为：“朽去化欲。”
一为：
摆脱开，摆脱开，粘染上洗干净很不易；
持得住，持得住，掉下去爬上来甚为难。
门额为：“努力摆持”。
侍从们看不懂，更不愿问，倘若一问，阎锡山又要不厌其烦开会讲解，大家反倒落得个自讨苦吃。
阎锡山过世后，吴文蔚在《民国史上一个伟人——阎锡山先生》一文中写道：“阎氏隐居青山后，即专事著述，闭户不出，非国家大事，或总统有召外，不轻易入市。每晨7时起床，晚10时入睡，午餐后，休息2小时，其余时间即为会客、讲话、会议、思考与写作。晚饭后，独出野外，散步数十分钟，就寝前，展阅床头木板易经以自怡。”
尽管曾经担任过北伐时的集团军总司令、抗战时第二战区司令长官、38年的“山西王”，甚至“行政院长”兼“国防部长”，阎锡山在台湾的政治处境，其实相当尴尬。
他的由3幢窑洞式建筑组成的“菁山草庐”的外墙，最初是红砖砌成的。一次蒋介石住进台北市郊的荣总医院检查身体，无意中从病房窗前看到苍青如黛的阳明山中，凸露出几点伤疤一样的红色。当时政府已经把阳明山划为保护区，严禁任何人破坏。蒋介石以为有人在这里开山挖掘金矿，破坏禁令，马上下令严查。
警察马上捧着尚方宝剑赶到“菁山草庐”兴师问罪。到了这里让全副武装的侍从们挡着，才知道此处竟然住着前行政院长阎锡山，马上换了副笑脸，一点也不敢造次，绕着房屋转了一圈，还关心地提出建议，请他们在红色外墙上涂上一层厚厚的沥青。
侍从们怕老长官生气，不敢将此事禀报，背着阎锡山买来沥青，将红墙涂得一片漆黑。
阎大惊，问为何如此？
侍卫假言解释，空防司令部电话通知，红色太醒目，容易招来大陆飞机轰炸，涂上沥青安全许多。不单此处，台北也照此处置。
当时新中国刚刚成立，蒋介石虽然从大陆败退到台湾，但他的空军和海军力量仍然很强大，经常对广州、福州、杭州、南京等东南沿海城市，特别是上海的军事和经济目标进行狂轰滥炸。1950年2月6日对上海的空袭最为严重。当天，国民党空军出动B-25轰炸机和P-51、P-38战斗机共17架，轰炸和扫射上海，造成解放军和老百姓死伤1400多人，民房毁坏2000多间。杨树浦发电厂也在空袭中遭到严重破坏，造成上海大部分城区停电，生产停顿，而且使全国物价上涨风刮得更为凶猛，本来就非常困难的经济受到了更大的冲击。
面对国民党持续不断的轰炸，新中国仅有的一点空军力量无能为力，所以，在接到上海市市长陈毅的紧急报告后，刘少奇立即致电正在莫斯科谈判的毛泽东和周恩来，请求苏联给予援助。
1950年3月13日，由巴季茨基中将率领的混合航空兵集团进驻华东的上海、徐州等地机场，协助中国进行空防。从3月20日到5月11日，以徐州机场为基地的苏联米格-15战斗机4次起飞迎击国民党空军，共击落6架轰炸机，解除对上海的空袭威胁后，又不断飞越海峡，对台湾进行惩罚性轰炸。
来台初期，所有党政军高官的住宅都配建有防空设施，“菁山草庐”也不例外，房子外面的防空洞，水泥墙厚达40厘米。防空洞上面的山坡上，侍从们住的独立小楼也是砖石结构，房顶、墙壁上设有专门的射击孔，战争氛围相当浓重。
不久，蒋介石和宋美龄听说阎锡山离开台北，到阳明山中隐居去了，便特意抽时间前来看望。
“花径不曾缘客扫，蓬门今始为君开”。蒋介石夫妇专程前来拜望，而且来途中还走了一段山路，阎锡山还是打心底里高兴和感激的。他对蒋介石说，他老了，自卸下重担后，便已百无所求。表白自己远离闹市，只图找个清静地方，晚年潜心著书立说。
蒋介石就土地改革问题求教于阎锡山，阎锡山把他在山西准备搞而未搞成的“兵农合一”政策献了出来，说：“儿要亲生，土要深耕，存在第一，当下最好取寓兵于农之制。”
蒋介石听后，颇为所动。但陈诚则认为“阎先生之议必徒增纷扰”，他力主“耕者有其田”，正在强力推行自己的一套土改计划。事后证明，还是陈诚的土地改革的方针取得了巨大的成功。
蒋介石看到脱下军服的阎锡山一副心境淡泊、超脱世外的神态，而且潜心著述，两耳不闻窗外事，当即允诺，马上派人给阎锡山装一部军线电话，方便他与外界联系。
蒋介石与宋美龄能亲自登门拜望，这对阎锡山来说，既是一种“殊荣”，也是一种难得的安慰。陈诚接手行政院长后，出于礼仪，也进山看过他一次，此外，再也没有其他一位国民党政要上山看望过他。倒是一些报刊、电台记者，对这位经历了清王朝、北洋军阀、国民党统治的“三朝元老”颇感兴趣，屡屡造访“菁山草庐”。所以，阎锡山潜心研究的所谓“大同主义”，与“中和哲学”，常见之于台湾报端，这对处于世人冷漠之中的阎锡山，多少也添了些慰藉。
尽管过着隐居的生活，阎锡山却如同以前当“山西王”时一样，每天晚上都要召集部属们开会，会议记录他要亲自过目。他的“上谕”，原馥庭更得认认真真地记下来。
既是开会，总要有内容，这会天天开，阎锡山说些什么呢？下面，就是原馥庭认认真真记下的一份“上谕”。
1951年6月8日下午7点30分
从记录上来看，大家在言语上有了相当的进步。过去，大家习于流动的生活，等待的方式，后来到菁山虽有学习进步的风尚，是稍带的进步，不是专门的进步，所以不踏实。
阎锡山何以热衷于把部属们召拢来开会，这里有讲究。他在“菁山草庐”里每日伏案写作，甚至到了食不知味的地步。写什么？看看书名就知道，《世界和平与世界大战》《共产主义的哲学和共产党的错误》《收复大陆与土地问题》《反共复国的前途》。这些洋洋洒洒的长篇大论，反攻大陆的方略，一章章，一节节，全成了他组织部属们开会学习的教材。书稿完成后，再送去发表或是出版。有次谈得兴起，他竟大言不惭、豪气冲天地说：“一旦王师跨海北进，直捣黄龙，你们别看我阎锡山老了，真个反攻号响，我还要率领健儿们再打几个胜仗给国人看看；我有信心，生从太原来，我这把老骨头，还将活着回太原去！”