明清山西商人称雄国内商界五个多世纪，“生意兴隆通四海，财源茂盛达三江”，是他们的自我写照。他们的成功，令人注目。他们是如何取得成功的，是一个很值得研究的问题。我们知道，每一种社会实践活动都有一种特殊的精神作为其灵魂，这种内在的灵魂是实践活动中最活跃的能动力量，而从事这一活动的人就是这一特殊精神的创造者和实践者。明清山西商人的成功，就在于他们是在一定的历史条件下自觉和不自觉地发扬了一种特殊精神，它包括进取精神、敬业精神、群体精神，我们可以把它归之为“晋商精神”。这种精神也贯穿到晋商的经营意识、组织管理和心智素养之中，可谓晋商之魂。
1、进取精神
孔子曰：“富而可求也，虽执鞭之士，否亦为之。”所谓“天下熙熙皆为利来，天下壤壤皆为利往，夫千乘之王、万家之侯、百室之君，尚犹患贫，而况匹夫编户之民乎。”由利益而起动的进取精神，是明清山西商人鏖战于商场的精神动力。山西平阳府席铭（1481—1542），“初时学举子业不成，又不喜农耕，曰：丈夫苟不能立功名世，仰岂为汗粒之偶，不能树基业于家哉！于是历吴越、游楚魏、泛江湖，撤迁居积，起家巨万金，而蒲大家必曰南席云。”清人纪晓岚说：“山西人多商于外，十余岁辄从人学贸易，俟蓄积有资，始归纳妇。”这就是说，事业不成，甚至连妻子也不娶。可见山西人是把经商作为大事业来看，他们通过经商来实现其创家立业、兴宗耀祖的抱负，而这种观念正是使其在商业上不断进取的极其巨大的精神力量。上述席铭经商成功后，“自是崇义让，淳宗族，睦邻里亲友，赈贫恤乏，解纷讼，成人之美，……嗤蒲之州大夫、所将军不以行伍众庶待之，而席氏之家声益振。”席氏通过经商致富，提高了其家族的社会威望和地位，自然鼓舞着更多的人来走经商之道路。山西商人的进取心还表现在强烈的开拓精神上，所谓“天行健，君子自强不息。”有许多山西商人就是靠这种自强不息的精神，白手起家而成大业。如著名的大盛魁商号，其创始人之一山西太古人王相卿，幼年家贫，为生活所迫，曾为人佣工，在清军费扬古部充伙夫，服杂役，后来与山西祁县人张杰、史大学一起随营贸易，先是肩挑负贩，拉骆驼，后在乌里雅苏台、科布多开“吉盛堂”商号，其后改名为“大盛魁”，几经磨难，终于白手起家，到雍正时大盛魁已经是一家具有相当规模的商号了。
2、敬业精神
晋商的敬业精神，也是常为人所称道的。敬，原是儒家哲学的一个基本范畴，孔子就主张人在一生中始终要勤奋、刻苦，为事业尽心尽力。他说过“执事敬”、“事思敬”、“修己以敬”等语。北宋程颐更进一步说：“所谓敬者，主之一谓敬；所谓一者，无适（心不外向）之谓一。”可见，敬是指一种思想专一、不涣散的精神状态。敬业是中国人民的传统美德。
在封建社会中，传统的观念是重儒轻商，故四民中以士为一等，商为末等。但明清山西商人却不这样看，他们认为商和士农工是同等重要的事业，都是本业，同样要敬。晋人摒弃旧俗，褒商扬贾，以经商为荣。榆次富商常氏，有清一代不绝于科举，但绝不轻视商业，而且是把家族中最优秀的子弟投入商海。常氏家族弃儒经商、弃官经商的子弟很多。如十三世常维丰，幼年从师就读，词章粹美，识者器重。长大后放弃科举，赴张家口经商。维丰极具才能，办事干练，尤精用人、通变之道，凡事一经裁酌，立即决断，为同仁所不及。十四世常旭春，是清末举人，曾任晚清法部员外，书法艺术名冠三晋，诗词也做得很好，时人称他是“书宗李北海，诗步王渔洋”。但他最热衷的还是经营商业。常氏一改“学而优则仕”为“学而优则商”，能数代集中优秀人才锐意经营商业，从而形成了一个具有相当文化的商人群体。由于他们把儒家教育的诚信、仁义、忠恕精神引入商界，从而有了常氏商业之繁盛。可见，把商业作为一项终身的崇高的事业来对待，正是山西商人经商取得成功的重要因素。
敬业：是事业成功的源泉，而勤奋、刻苦、谨慎的作风，又是敬业思想在实践中的具体体现。
3、勤奋精神
勤奋：这是大多数山西商人具有的良好品德。如山西定襄邢九如“少贫乏，年十四失情，……越二载，其大父即辞世，家道益困，公以母老弟幼苦无资，不得已弃学就商，甫弱冠远服贾于京东之赤峰县，……勤劳四十余载，而家道卒致丰。”榆次人李智春，“生贫家，幼父母卒，兄佣工，仲兄且殇，于是学商于直隶顺德府布店，数十年勤劳无间，为执事者所重，积有余资，乃旋里娶妇王氏，……三子皆成立，长商于赤城，次二、三子耕作，后家渐起。”永济人赵俊，“为富家贾于江南，勤俭著闻”。 刻苦：不怕苦，不怕累，也是大多数山西商人的良好品德。清人纳兰常安说：“塞上商贾，多宣化、大同、朔平三府人，甘劳瘁，耐风寒。”太谷县商人是山西票号三大帮之一，他们经商“跋涉数千里，率以为常”。乾隆《祁县志》卷9载，祁县阎成兰“行商朔平、归化，辛苦备尝”。
4、群体精神
山西商人在经营活动中很重视发挥群体力量。他们用宗法社会的乡里之谊彼此团结在一起，用会馆的维系和精神上崇奉关圣的方式，增强相互间的了解，通过讲义气、讲相与、讲帮靠，协调商号间的关系，消除人际间的不和，形成大大小小的商帮群体。
山西商人这种商帮群体精神，首先来源于家族间的孝梯和睦。如明代曲沃人李明性，青年时常感慨：“夫为弟子壮不能勤力，将坐而食父兄乎？”于是“挟资贾秦陇间”，由于他在商场上“精敏有心计”而致富，又“内行周慎，孝睦于父兄。仲兄卒，无子，以己次子后之。治家甚严，族子甲出钱收息过当，召而责之，手裂其券，自是举宗凛凛。”明代襄陵人乔承统，“其父中盐卒于扬州，遂弃儒而贾。内监杨某督鹾两淮，承统弟承经以事得罪杨某而逃亡，杨捕之急，承统挺身出就狱，所受之刑，五毒备至，终不言弟所在，且为行贿千金，得释。弟归家，破析己财之半予之”。介休冀氏马太夫人主持家政时，“族戚邻里之待以举火者，无虑数十百家，皆太夫人赞助成之”，“又待伙极厚，故人皆乐为尽力”。祁县乔映霞主持家政时，把其兄弟集中在一起，让练有武艺的九弟先把一双筷子折断，接着又让其一次折九双筷子，结果折不断，映霞喻义让众兄弟团结互助。山西商人在发扬群体精神中，还注意量才使用，各尽所能，明代山西大同人薛伦，“其家世力田，兄耕弟贾，业盐于淮。”明代蒲州人王冕，“早卒而遗孤二人，家无应门之仆，王冕妻张氏奉姑抚孤，誓志不二。二子长大后，命长子服贾。曰：孤而无助，将门户是赖；授次子以儒业，曰良人有志而未成，其负荷在是也。后长于克拓前产，次子以明经为诸生，卒立厥家。”其次，群体精神是经商活动中业务扩大与商业竞争的需要。随着山西商人活动区域和业务范围的扩大，商业竞争也愈来愈激烈，于是山西商人从家族到乡人间，逐渐形成“同舟共济”的群体。如明代蒲州人王氏，“其闾里子弟，受钱本持缗券，以化居于郡国者，肩相摩趾相接也”。由此可知，从王氏那里得到资金的子弟很多。明代隆庆、万历年间，蒲州张四维家族、王崇古家族、马自强家族，均是大商人家庭，三家联姻为亲戚，张四维曾任礼部尚书兼东阁大学土参赞机务，王崇古官居宣大总督、兵部尚书，马自强曾任礼部尚书。三家的联姻，增强了其商业竞争实力。王崇古在河东业盐，张四维的父亲是长芦大盐商，累资数十百万，张、王二氏联手，结成了盐商团伙，控制了河东、长芦两处盐利，具有一定的垄断性。在亲缘集团的基础上，晋商又逐渐发展为地缘组织。清朝乾隆末年，在典当业中已出现了所谓“江以南皆徽人，曰徽商；江以北皆晋人，曰晋商”的说法。“晋商”这一名称的出现，说明清代山西商人已逐步形成一个地域性的商帮。清后期，山西票号在国内80多个城市设立了分号，从而形成了一个汇通天下的汇兑网络，也是以乡人为主体形成的山西商人群体。
