作为山西首辅，更加难能可贵的是，阎锡山能以身作则，为人表率。他一登上督军宝座，便号召全省打烂庙宇神像办新式学校。他的老家河边村自然率先响应号召，砸了村西阎王殿里的神像，办起了一所小学校。当时，河边小学只有初小4个年级，300多个学生。由于不兴男女同校，又在阎王殿隔壁和尚庙办起了一所女子学校。后来，学生逐年增加，村里一些掌权乡绅，感到堂堂一个河边村，阎都督的家乡，又是全省的“模范村”，没一个能起示范作用的小学校实在说不过去，遂号召村民集资，兴建完善河边小学。
阎锡山知道后，大为赞扬：“这事办得好，应该让娃娃们有个好的学习环境，”为此，他慷慨解囊。不久，就在关帝庙遗址上盖起了一座崭新的小学校。“样板学校”竣工后，阎锡山由族长、村长陪同，前往参观。只见校舍宽敞，设备齐全，不但有12排教室，教师宿舍，还有大礼堂、体育场、篮球、足球、乒乓球场地，十分满意，再三夸奖表扬，还亲自给学校题写校名，起了个名字叫“实生活小学校。”
“实生活”？啥意思？在场的人谁也弄不懂，弄不懂也不敢问，反正阎督军说甚就是甚，都是“最高指示”，大家照办就是。
“实生活小学校”建成后，阎锡山每次回家，都要到学校散步，对老师嘘寒问暖，送上点小礼物，鼓励学生刻苦学习，将来报效国家。因此，不但本村的孩子抢着上学，邻村有钱人家的孩子也托人说情到河边村来念书。但当时人们受封建礼教束缚，不准女孩子念书，所以女子学校却是门可罗雀，冷冷清清。阎锡山知道后，就让阎府的女孩子带头上学。他把堂妹阎慧卿（即后来大名鼎鼎的“五妹子”）、阎竹梅送到女子学校。有他带头，其他人也就把女孩子送到学校念书来了。不过，穷苦人家的孩子，仍然无钱上学。阎锡山索性将两校合并为一校，穷家儿女，也可免费上学。这所学校，后来升格更名为“川至中学”，近百年间培养了不少人才，发展到今天，就变成了定襄高级职业中学校。
1917年冬，阎锡山再次回到河边村。
第二天，雪下得很大，学生们被通知到川至中学（2）的院坝上去听阎锡山讲话。这天他换了衣裳，戴着有缨穗的高帽子，穿着督军的草绿色厚呢大礼服。他开口便道：“人不是纸糊的，下雪不是下刀子，你们今天能来，还是不错的。”接着就讲军国主义，他说：“现在世界上是弱肉强食，要是没有力量，国家就无法保存，所以我们也得实行军国主义。中国若不实行军国主义，在世界上就站不住脚。”讲到最后又说，“你们现在年轻，当学生还没有野心，心里觉得能当上个老师、校长就不错了。但大了以后，就不是这样了。蹦跶几天，就觉得当校长不如当县长，当了县长又想当道尹，当了道尹又想当督军，还想当总统，当了总统还想坐皇帝。坐了皇帝又想长生不老。人的欲望没个够，所以啊，需要从小的时候就学会克制自己的欲望。不要想做不到的事。思想端正了，才能克制住自己的欲望。你们闭上眼，看能不能听到河水哗哗地流？可能听不见，但是经常静下心来照我说的这样去想，照我教你们的这样认真地去听或有或无的流水声，久而久之，人就会变得来清心寡欲，就没有大的奢望了”。
阎锡山绝非等闲之辈。他少年老成，志向高远。据史书记载，他6岁发蒙，入村私塾，从《论语》《孟子》《大学》《中庸》学起。三年以后，转入村义塾，研读《诗经》《书经》《易经》《礼记》《春秋》《左传》及《纲鉴易知录》等。到15岁习商止，“四书五经多能随口道出，纲鉴大事亦知概略”，传统文化的根基由此养成。
阎锡山虽然从小受传统文化的熏陶，但对传统文化派生出来的八股取士制度却深恶痛绝。“所以我常说，假如把作八股文的精神用于研究物质科学，其成效不知有多少倍。”
也正因为如此，在以后的学习生活中，他对自然科学与近代军事兼收并蓄。1902年，在太原当店员的阎锡山，考上了山西武备学堂。进入山西武备学堂后，阎锡山在学习军事科目的同时，开始接触数学、理化、史地等学科，自然科学的声、光、电、化给青年阎锡山展现出了一个五彩缤纷的新世界，引起了他浓厚的学习兴趣。由于勤奋刻苦，武备学堂三年的学习，阎锡山学、术均佳，尤擅操典。
1904年，阎锡山被保送到日本留学，先入东京振武学校，毕业后入日本陆军士官学校第6期。
留学日本的经历，更使阎锡山得以走出国门看世界，亲身体验明治维新以后日本的近代文明，进一步涉猎西方文化。一踏上日本的土地，阎锡山首先感受到的是日本先进的社会秩序。他说：“日本的员工做甚务甚，谦虚和蔼，人少事理，与我们中国的做甚不务甚，骄横傲慢，人多事废，显然是一个进步与落后的对照。”其次是接受了孙中山倡导的资产阶级革命思想。由于对清廷腐败和中国积贫积弱的现状不满，“感到清政府误国太甚”；由于了解了外面的世界，认识到“政治不可失时，若不能适合时代的需要，一定要被时代所抛弃”。
在资产阶级民主革命思潮的影响下，阎锡山于1905年10月加入同盟会，曾会见孙中山并参与制定了同盟会的“南响北应”的战略决策。1906年，他参加由黄郛、李烈钧等人在东京组成的同盟会中的军事组织“铁血丈夫团”。铁血丈夫团约于1906年底前后组建完毕。参加者多属同盟会员中留日陆军士官学生，共计28人。（3）蒋介石、张群为1908年加入的后期团员。
武昌起事后，各地纷起响应，“铁血丈夫团”的同志，都做了全国各省都督和军、师长级的统兵将领。
作为一名有可能在未来担纲大任的军事将领，那时的阎锡山便表现出了不同凡响之处。
民国纪元前六年（清光绪三十二年，公历1906年）奉中山先生之命，偕盟友赵戴文各携炸弹一枚，返国布置华北革命。至上海港口时，因知海关检查甚严，乃将赵戴文所携之炸弹亦集于己身，并向赵君说：“如检出来，我一人当之，你可不承认与我是同行之友。检查时，我站前列，你站后列。”
赵君说：“我站前列，你站后列如何？”
我说：“站后列有畏惧检查之嫌，易被注视，仍我站前列为宜。”
果然检查人员检查后列较前列细密，我遂得渡此难关。其后我向赵君说：“越危难处越不可畏缩，畏缩则引人生疑。”
行抵汉口，在一家旅馆中，很凑巧地看到墙壁上有墨笔写的两行字：“事到难为宜放胆，人非知己莫谈心。”我想那一定是革命党人所题，若非革命党人，脑筋中就不会动此感想。（4）
山西辛亥事起当晚，全省的一把手陆钟琦就被革命军杀了。陆巡抚并非死在阎锡山的刀下，可不费吹灰之力便将主宰山西的大权握在手中的却是新军团长阎锡山，这个中，就有故事。
阎锡山回忆说，他从日本士官学校毕业回到太原。当时的太原，只有一旅新军，一旅旧军，各下辖两个团，新军旧军各4000余人。过了大约一年工夫，阎锡山便当上了新军里的一名团长（那时还称标统），将一半新军控制在自己手中。阎锡山新官上任，刚当上团长，马上又赶到北京紫禁城里去大大地露了一回脸。清廷举办留学生朝考，阎锡山到底去日本学了些真本事回来，朝廷一放榜，轻轻松松就让他中了个武举。那真是春风得意马蹄疾，一夜看尽长安花，回到太原虽仍是个团长，但此时的团长头上加了顶举人的帽子，风头一时盖过了他的顶头上司、旅长（那时称协梳）谭振德。紧跟着，雄心勃勃的阎锡山挑头，与赵戴文、温寿泉、南桂馨一铁盟友成立了一个“山西军人俱乐部”，利用这作为平台，开始发展壮大自己的势力。
武昌起义爆发后，巡抚陆钟琦很紧张，也知道阎锡山是新军里的领军人物，便赶紧将在北京的儿子陆亮臣召到太原，与阎锡山拉关系。原来这陆大公子，和阎锡山是日本士官学校同学。
行客拜座客，陆亮臣到太原的第二天一早，即来拜望阎锡山。几句寒暄后，便开门见山地说：“我这次来，即专为与兄研究晋省对武昌事件当如何应对。百川兄有何高见，愚弟可向家父转达。”
阎锡山留有余地，小心答道：“武昌事件的真相，我尚不知，黎远元究竟是为革命而起义，抑或别有原因，我也不明白。你我现在就谈如何应对武昌事件，是不是为时尚早？”
陆公子踌躇片刻说：“我们可以再观察两天，不过，假如你们真要家父离开。也没有什么，我会配合老兄的。”
阎锡山笑道；“你这话说哪里去了，你我是同学，更说不到这样的话。”
阎锡山送陆公子出门。分手时，陆公子又道：“过两天我们是不是可以和姚协统一起谈谈？”
阎锡山爽快答应：“行。时间，地点，由你定。”
候在外面的赵戴文等军官一见陆公子登车离去，马上钻进屋子问阎：“陆公子来干么？”
阎锡山冷冷一笑，说：“我一眼就看穿了他父子俩的花花肠子，我已得到可靠消息，陆巡抚已经决定将太原的订购的5000支德国造步枪，借3000支给河南，随带子弹，而且已经运走了一部分。另外就是把我新1、2团全部调往临汾和代州，由巡防营来接管太原防务。”
赵戴文；“他们倒是先下手为强了。百川，事情既已如此急迫，是不是马上把弟兄们叫来，商量个办法。”
阎略一思忖，断然道：“革命是个玩命的事，一商量就容易走漏风声。大丈夫当断则断，看谁下手快？”
9月初8日（阳历10月29日），阎锡山率兵将旗人管带瑞墉抓了起来，然后立即带领1、2两标向巡抚衙门冲去。
协统谭振德站在大门前高声制止，被起义士兵乱枪打死。
枪声一响，阎锡山奋不顾身冲在最前面，抚署卫兵未作抵抗便纷纷溃散。
阎锡山率兵进得三堂，只见陆巡抚衣冠整齐，立于三堂之上。陆公子亮臣也立于旁边。
陆公子喊道：“你们不要动枪，什么事都可以商量！”
陆巡抚倒不失为大清朝的忠臣，朗声喝道：“用不着，你们要造反，就照我身上打吧！”