《山居笔记》是余秋雨在1992年至1994年间，全身心地用两年多的时间创作成的，共十一篇文章。写作期间，作者辞去了学院的职务，不再上班；同时写作又与考察联在一起，很多写到的地方一去再去。
在作者的总体计划上，这本《山居笔记》是他以直接感悟方式探访中华文明的第二阶段记述。第一阶段的记述是《文化苦旅》，在那本书中，他背负着生命的困惑，去寻找一个个文化遗迹和文化现场，然后把自己的惊讶和感动告诉读者。但是等到走完写完，发觉还有不少超越具体遗迹的整体性难题需要继续探访。作者将这些问题归为：对于政治功业和文化情结的互相觊觎和生死与共；对于文化灵魂的流放、毁灭和复苏；对于商业文明与中华文化的狭路相逢和擦肩而过；对于千年科举留给社会历史的功绩和留给群体人格的祸害；对于稀有人格在中华文化中断绝的必然和祭奠的必要；对于君子和小人这条重要界线的无处不在和难于划分。