山西农信以1945年太行革命根据地组建屯留县罗村信用社为起步标志，至今已走过79年发展历程。先后经历了人民公社、人民银行、农业银行先后管理，山西省农村信用社联合社管理（2005.8-2023.11），山西农村商业联合银行股份有限公司管理（2023.11-至今）等阶段。

　　2004年8月，国务院办公厅印发《关于进一步深化农村信用社改革试点的意见》，全省农村信用社深化改革的目标确定为“不断改善农村金融服务，加大金融支农力度，逐步推进和完善管理体制和产权制度改革，促进农村信用社加强内部控制，转换经营机制，真正成为自主经营、自我约束、自我发展和自担风险的市场主体，真正成为服务农民、农业和农村经济的地方金融企业。”2004年11月，省政府成立山西省深化农村信用社改革工作领导组，并着手拟订《山西省深化农村信用社改革试点方案》。2005年1月7日，山西省农村信用社联合社筹备组成立。3月23日，省委组织部批准成立山西省农村信用社联合社党委。6月29日，省政府召开山西省农村信用社联合社创立大会暨第一届社员大会。8月24日，山西省农村信用社联合社（以下简称省联社）揭牌成立，全面接管山西银监局对全省农村信用社的领导管理职能，根据省政府授权，行使对全省农村信用社的指导、管理、协调和服务职能。

　　省联社组建成立后，全省农村信用社在经营管理、改制化险、系统建设等方面取得了非常不易的成绩，从2005年开始发起以股份合作制为模式的县（市、区）农村信用社统一法人体制改革，并开始筹建农村合作银行。截至2010年8月，全省110家县（市、区）农村信用社取消两级法人、完成统一法人改革，期间，河津、繁峙改制为农村合作银行。从2010年开始，全省农村信用社发起以股份制为模式的农村商业银行体制改革，在推进改革特别是高风险机构化险重组过程中，省联社按照“政府主导、监管引领、省社推动、机构努力、市场运作”五位一体的总体要求，组织全省农村信用社引投资、引战略、引机制，使全省农村信用社化险改制工作走在全国前列。以2010年尧都农商银行挂牌开业为标志，截至目前，全省108家县（市、区）农村信用合作联社已有101家改制为农村商业银行。

　　2021年，省联社启动新一轮改革，在省委省政府的强力推动下，2023年11月17日，省联社经过改革正式更名为山西农商联合银行，是全国首批采取“上参下”模式改制的农商联合银行。

　　目前全系统共有11家市级机构、108家县级机构、3005个营业网点，从业人员近5万人，是全省服务覆盖面最广、业务规模最大、从业人员最多的金融机构。系统内成立党组织1069个，其中山西农商联合银行党委1个；省行本级有机关直属党委1个，部门党委2个（科技信息中心党委、资金营运中心党委），部门党支部25个；市县两级有市级机构党委11个、县级机构党委108个、党总支7个，党支部939个，全系统党员总数18259人。

　　作为地方金融主力军，山西农商银行系统是全省银行业金融机构中，第一家也是目前唯一一家存款规模突破“一万亿”的金融机构。