知县王大人新官上任，立刻在衙门前的影壁墙上贴出告示，即日起升堂办案，百姓有冤的申冤，有苦的诉苦，身为一县之父母，他一定要做一个公平公正的好官。
告示贴出后，一大早，衙门外影壁墙前站了一排告状的百姓。王大人正襟危坐于高堂之上，击鼓升堂。第一个告状的是一个胖男人，说如今正值雨季，因他们家地势低洼，处在高处的邻居竟然在他们家的墙上掏了个窟窿，雨水涌入，家里成了一片汪洋。他多次让邻居把窟窿堵上，可邻居根本不听。
岂有此理，这也太欺负人了。王大人一声令下，把胖子的邻居瘦子唤来，问他是否地处高处，是否在墙上挖了一个窟窿？瘦子连连点头：“是的，大人，但是……”话还没说完，王大人一拍惊堂木：“回去赶紧把窟窿堵上，还要赔偿原告的损失。否则，本县将严加处罚！”
第二个告状的是一个年老的婆婆，她颤巍巍走上堂来，话还没说，泪已先流。她要告的是自己的儿媳妇，趁丈夫外出，竟然不守妇道，红杏出墙。她指责了两句，儿媳竟然对她大打出手。说着就挽起袖子，果然胳膊处一块青紫。
王大人立刻把妇人传来，问她婆婆胳膊上的伤可是她打的。妇人点点头说：“是，可是……”王大人当机立断，“啪”地拍下惊堂木：“如此不孝的淫妇，不打不足以改过。来人，拖下去，杖打二十，以示惩戒！”
王大人快刀斩乱麻，不到一上午，就办完了七八宗案子。他洋洋得意地继续喊下一个，衙役进来禀报，外面本来还有一些告状的，可已经走了。王大人甚是惊异，状还没告怎么就都回去了？衙役们互相看看，说也许午饭时间快到了，都回家吃饭去了吧。这么一说，王大人也觉得肚子咕咕乱叫。
吃过午饭，王大人本想继续升堂办案，可等来等去，一直没人击鼓鸣冤。百无聊赖中他心想，反正没人告状，何不出去逛逛，顺便体察一下民情。于是，换了便装，带了两个随从，出了衙门直奔闹市。
闹市里各种店铺林立，非常热闹。王大人正兴致勃勃地往前走，街旁店里出来一个妇人，手持水盆，手一扬，一盆水正浇在了王大人身上，顿时把他浇成了落汤鸡。
王大人这个气，是谁这么大胆，往知县大人身上泼水！仔细一看眼前的妇女，就是上午那个刚被自己打了板子的妇人。此时，妇人一手拿着空水盆，一手捂着被打的屁股，一脸歉意地为自己辩解——没看见王大人从这里经过，不然，借给她八个胆也不敢往大人身上泼水啊。
既然不是故意的，王大人大度地一挥手，算了，然后赶紧回去换衣服了。
走到一个上坡处，从坡那边过来一个推独轮车的人，独轮车的两边各放着两个木桶。推车人看见前面的来人，赶紧喊闪开。随后独轮车歪歪扭扭，一溜歪斜地冲了下来。王大人往左躲，独轮车就跟着往左，王大人往右躲，独轮车就跟着往右。最后，独轮车猛地歪在一旁，木桶里的污物倾泻而出，泼溅了王大人一身。
推独轮车的正是在别人墙上掏窟窿的瘦子。此时，他认出了王大人，惊慌失措地说：“大人啊，我准备上菜园子施肥去，谁知却在这儿碰到了您，路窄坡陡车重，我握不住车把了，可不是故意的，要不您现在把衣服脱下来，我上旁边的河沟里给您洗洗？”
堂堂县太爷在大庭广众之下脱衣服，那不是有失体面吗？别在这儿丢人现眼了，既然不是故意的，算了吧。王大人狼狈地赶回衙门，洗洗涮涮好一顿折腾，这才算完。
接下来，王大人不知自己是哪根香烧错了，只要出门，倒霉的事一件连着一件。后来他品出味来了，不是自己运气不好，是那些老百姓故意在跟他作对。尽管他努力想跟他们沟通，可总觉得自己和百姓之间就像隔着一堵墙，亲近不起来。这时邻县衙役来下请帖，说再过几天，他们知县李大人过生日，想请王大人过去。
几天后，王大人来到邻县。李大人早就带人在县界相迎了，两人一起打道回府。在路上，他们不时地遇见人，看见李大人，这些人都热情地打招呼，和谐融洽。王大人不禁大感惊奇，李大人有什么妙招，让百姓与他亲如一家？
到了衙门前，王大人抬头一看，只见衙门外按风俗惯例竖起的影壁墙没了。看他一脸诧异，李大人不等他问，就朗声说：“没有这堵墙，官民之间才能水乳交融，更加融洽啊……”一句话让王大人豁然开朗，觉得自己已经找到了症结所在，吃过饭之后，便立刻告辞。
回去之后，王大人立刻吩咐人把衙门外的影壁墙拆了。王大人一言九鼎，大家尽管心里疑惑，却没人敢问，只得照办。
王大人长舒了一口气，总算可以睡个安稳觉了。一觉醒来，一个衙役进来报告：“大人，出事了，您快出去看看吧。”王大人赶紧往外走，这一看差点儿把鼻子气歪了，衙门口处堆着许多菜帮子、烂叶子、碎砖头……这倒好，墙拆了，百姓把这里当成垃圾场了。这是谁干的？这些刁民真是不可救药了，自己放低姿态一退再退，可他们竟然蹬鼻子上脸了！他大声下令：“来人，立刻彻查，一旦查到，决不轻饶！”
衙役很快把几个罪魁祸首抓到了，领头的竟然是那个瘦子和妇人。王大人勃然大怒：“你们一定是不服我的判决，因而怀恨在心，一次次借机报复。这次，我要给你们点厉害瞧瞧！”
话音未落，两人跪倒在地：“大人，在您判决前，让我们把之前没说完的话说完行吗？”
“好吧，看你们用什么花言巧语为自己辩解。”
瘦子先说，胖子家地势虽低，但他为了自己的院子大些，把院墙往外扩大了，致使原先的道路堵了一大半。不但平时走路不便，下大雨时瘦子家的流水更是不畅，一时气急，瘦子才在他家的墙上挖了窟窿。王大人只听胖子的一面之词，不等人说话，就判了案。
妇人开口了，她说自从成家以来，一直恪守妇道，是婆婆听信谗言，对自己指桑骂槐，恶语相向。自己因为心内委屈，辩解了几句，婆婆竟然拿头上的簪子扎来，躲闪推搡之中，婆婆被她自己的簪子误伤了胳膊，却把妇人告上大堂。可王大人不分青红皂白，就打了她二十大板。
接着瘦子又说，那天上午几宗案子判下来，竟然没有几件是公平的，等着告状的人见大人不明是非，不但解决不了问题，反而助纣为虐，根本就是个糊涂官，所以都走了。大家都巴不得您快点离开这里，好换个明智的知县来，所以，才数次对大人不恭。如果大人不信，可以去调查。
王大人没想到自己在百姓心目中是这般形象，他只得按捺住火气，先去调查了胖子家，果然院子明显比别人家大了许多，占了不该占的道路。而四邻皆对妇人交口称赞，事情起因是一个二流子数次纠缠妇人，妇人不从，于是他心怀怨恨，在婆婆面前编造谗言，婆婆耳根子软，竟然信以为真。
这几件案子王大人都重新做了公正的审理。接下来，他办案再也不敢敷衍潦草了，而是力求做到公平公正。从此以后，他再没遇到什么倒霉事，百姓见了他，也毕恭毕敬起来。
此时，邻县李大人上门来拜访，看到衙门前的影壁墙竟然也没了，不禁惊讶地问起来。王大人说：“还不是听了你的话嘛，把墙拆了，才能做到与百姓水乳交融。”
李大人这才不好意思地告诉他，其实，那是因为自己一次办案不公，被受冤的百姓暗中在墙上打了窟窿，又逢下雨才垮了。后来，他并没有把墙垒起来，而是时时引以为戒，秉公办案，这才赢得了百姓的敬重。
听完这话，王大人感慨道：“衙门口的这堵墙不重要，重要的是我们与百姓之间的那堵心墙。心墙拆除了，才能赢得民心啊。”