村口的“后湖宫”，其祭祀的便是“开闽第一进士”薛令之，“后湖宫”整个建筑由门楼、戏台、天井和享堂构成，屋内正中摆放着薛令之的塑像，雕像上方的牌匾上四个大字“覆载资生”是唐太宗教育儿子唐高宗家训，意思跟“水能载舟，也能覆舟”是一样的。
走近这个村，先看到古城墙，墙内探出屋檐挑角。在沿溪的一段城墙中，两座完好的用条石构筑的拱顶墙门巍然屹立，和近旁繁茂蓊郁的古榕秀色相互映衬，平添许多景致。墙长1200米、高4.4米、厚3.6米，以椭圆形将廉村环绕一周，形成古堡，气势磅礴，十分完整，用以抵御当年的倭寇。如今，古堡已成为福建保存较为完整的古堡之一。
墙边流淌着清清的溪水，这溪水应该见证了廉村的昨天、今日。这条溪以前不知道叫什么，现在也和廉有关系，叫廉溪了。那曾是通往大海的内河港口，也是沟通闽东北的水陆枢纽和物资集散地；而如今见不到千舫竞发，橹声矣乃了，但那宽阔整齐的码头还在诉说着往日的繁荣和辉煌。
