全文由叙（序）和铭两部分组成。叙是记叙性文体，讲写这篇铭的由来；铭，是本文正体，实际是歌功颂德的四言诗。而该文的叙可分为三段。
第一段从“天可必乎？”到“二者将安取衷哉”，用疑问句开头：天一定讲道理吗？那为什么贤能之士不一定显贵，仁德之人不一定长寿？天一定不讲道理吗？那为什么仁德之人一定有好的后代呢？在天有道、无道之间将采取哪一种才合适呢？在天君合一、天道与君权合一的封建社会，文章的一开头竟然对天道的有无提出了诘难，令读者心惊。这种文章开头的方法，很有吸引读者的力量。
第二段从“吾闻之申包胥曰”到“吾是以知天之果可必也”，用事实来证明是有天道的，从而回答了文章开头的诘难。第二段的一开头引用春秋时楚国大夫伍子胥的话：集众人的力量可以战胜天，天的不可违抗的客观规律也可以战胜人。下文就按“天定”和“天未定”来展开论述。不过，文中的“天定”，实际是“善有善报，恶有恶报”的代词；“天未定”是“善不得善报，恶不得恶报”的代词，苏轼是认为“不是不报，时候未到，时间一到，一切都报”。苏轼的“一切都报”的思想在文章中就是： “天定”，天有道。苏轼认为：世上谈论天道的人，都不等天道按其客观规律行事时来研究它，就以为天道是虚无缥缈，不可探求的。善良的人因天无道不得善报而变得懒惰无所作为，邪恶的人因天无道不得恶报而更加肆无忌惮起来。古代的大盗跖有长寿，古代的圣贤孔子、颜回却贫困而遭受厄运，这都是天道还没有按其客观规律行事的缘故。譬如松柏长在山林，在它们很弱小还是幼苗的时候，会被蓬蒿这类杂草遮掩围困，会遭受牛羊的践踏，等到松柏长大，经四季而长青，历千年而依然苍劲挺拔的原因，是因为天道已经按照客观规律行事了。文章由远而近、由道理而例证以后，就顺利地过渡到讲当今的人了。苏轼认为，像松柏的生长中当时不报、而后再报的现象一样，人的善恶之报在当世没有体现，而兑现在他子孙身上的事早就存在。他甚至认为，拿他自己的所见所闻来验证，这种天道的善有善报是确定无疑的。从而回答了文章开头的诘难。
这种回答因空洞而缺乏说服人的力量。所以下文就进入正题，用当今名臣王祜及其子孙的事来肯定天有道，从而高度赞颂王祜及其子孙的贤德。
文章进入正题并不直接就事论事，而是先虚后实，先总括一句，笼盖下文。“国之将兴”，暗指当今宋朝，“厚施而不食其报”指天未定之时的晋国公王祜，“然后其子孙能与守文太平之主共天下之福”指天定之时子孙得报。下文就具体说王祜“厚施”于太祖太宗两代皇帝，却因说话过于直率而不为当时所容，并交代了三槐堂的由来。接着就说王祜的厚施在他儿子魏国文正公王旦身上得到厚报的事实。文章至此，来了一个跌宕曲折，批评现实社会中有的人今天行善积德，明天就想从别人身上得到回报，当然有的人能得到回报，有的人就得不到。这种眼光短浅的行为同晋国公王王祜不同。王祜自身修德，像把债券给天一样，数十年以后才取还，一手交债券，一手得行善积德的回报。这种批评、对照，目的仍在赞颂王祜、王旦父子。这段的最后一句话是小结，十分明确地指出：天道一定是存在的。前面说“其可必也审”，这里说“天之果可必也”，它们之间的层递关系和最后语句的肯定十分明显。
第三段从“吾不及见魏公”到“吾是以录之”，讲晋国公的“厚施”回报到他的孙子懿敏公王素，赞颂王氏之福方兴未艾。由于王祜、王旦、王素祖孙三代都非常显贵，有人就把他们和唐朝的李栖筠、李吉甫、李德裕祖孙三代相比。苏轼认为李栖筠的雄才大略、刚直正气同王祜不相上下，李氏三代和王氏三代的功名富贵也差不多，但从忠恕仁厚上讲，李栖筠父子却不如王祜父子。拉李氏三代作陪以显王氏三代，极赞王氏忠厚传家，恩泽子孙。最后一句既交代了写铭的原因，又增添了王素的儿子王巩一代，他也是好修德行而善文章，呵以继其家世，以呼应上文的“天将复兴王氏也欤，何其子孙之多贤也”。
文章的第二部分是铭文，用四言韵语来赞颂王氏的三槐。值得提出的是，铭文不仅仅是对王氏歌功颂德，而且对现世的小人进行了针砭：像我辈一类的小人，一天到晚只知道去攫取利益，并无时间担忧过自己的德行。只企求能够侥幸不种而获，不劳而取；没有真正贤德的君子，那么国将不国。苏轼忧国忧民之心，在为人写的铭文中也赫然可见。与叙文相比，铭文则写得直率而动情。内容上也有所突破，以自己的“不种而获”沐浴国恩，归之于“不有君子，其何能国”，说明王氏父子的功业不仅泽及子孙，且泽及世人。这又提高了叙文的思想境界。文章叙议兼行，挥洒如意，文字简洁，自然流畅。
