阎锡山就出生于这样一个地主兼商人的家庭。1883年阎锡山出生时，其父阎书堂年方23岁，其母曲月清26岁，比阎书堂大3岁。曲月清是河边村小堡曲成义（字在左）的女儿，曲家祖传经商，曲月清17岁时与阎书堂结婚。曲月清与阎书堂结婚几年，没有生育，这可急坏了阎青云，因此，当阎锡山出生后，年已56岁的阎青云喜出望外，便给阎锡山取了个乳名叫万喜。阎锡山在这个家里，自然受到各方喜爱，娇生惯养，从小就十分顽皮任性。然而，阎锡山6岁时，其母曲月清便因病去世。阎锡山早年丧母，是他人生中的一大不幸。曲月清就生了阎锡山一人，她临去世前，曾叮嘱其二侄儿曲清斋（名容静、字清斋，乳名吉惠），一定要把万喜子拉扯长大成人。曲月清去世后不久，阎书堂继娶了定襄县陈家营村（距河边村2里）一个小地主陈善中的三女儿陈秀卿为妻。由于阎书堂常年忙着城里的生意，很少回家，而陈秀卿当时只有18岁，仅比阎锡山大12岁，因此，阎锡山的外祖母一来怕陈秀卿不会抚养孩子，二来怕她虐待自己的外孙，便找阎书堂商量后，把阎锡山接到自己家里，和她的孙子们一起生活。外祖母王氏对阎锡山特别钟爱，比阎锡山大几岁的曲清斋，牢记姑母的嘱托，既对阎锡山关心爱护，又对他管束严紧，后来两人一同上学，情同手足。阎锡山对曲清斋十分尊敬，一直叫他“二哥”，就是后来他当上了一省之长，也是“二哥”不离口，每次回家，都要到曲清斋家里探望，对二哥言听计从，凡是家乡亲友及村里的事，只要二哥说一句，阎锡山没有不听从的。
阎锡山儿时的调皮淘气是出了名的。上树掏喜鹊巢中的蛋，爬房檐掏麻雀，下河摸鱼捉虾是常有的事。有一次他回到永和堡家后，听人说村东枣圪瘩儿那块地里有个狼窝，里面还有小狼崽儿，于是便一个人出了村，把两个小狼崽逮了回来，栓住挂在永和堡二门外的一棵老槐树上，老狼寻觅着找见小狼，扑腾着想救走小狼，但怎么也够不着，因而连续两个晚上老狼在老槐树下狂奔乱嚎，吓得人们不敢走动。闹得永和堡里人心惶惶。他爷爷阎青云知道这是阎锡山干的好事后，狠狠地把他骂了一顿，然后把小狼解下来送了回去，永和堡这才得以安宁。
光绪十五年，也就是1889年，7岁的阎锡山被送进私塾读书。先是在由曲姓公立的小堡私塾，在这里，秀才出身的曲沂泉（字近渔，乳名万三）。应阎青云之请，给万喜子取了个官名叫锡山。“锡山”二字出自古代杨载赠惠山长老诗中“道人卓锡问名山，路绝岩头未面攀”的前一句，所谓“锡”指禅杖而言，诗中意思是说：一位老道人拄着镶有锡环的禅杖，在欣赏名山的同时体味着人生哲理。阎青云并不明白什么意思，只觉得这个名字挺雅气，连声叫“好”。