城隍就是傳說中主管一城之神，專門懲惡揚善、保一方平安之地方神。舊時，上至京都，下至府、州、縣城都建有城隍廟，祭奉本地城隍。明嘉靖四十一年（1562），廣西馬平縣舉人王化奉旨在今平遠縣仁居鎮設立平遠縣治，第二年又大興土木，在縣城城北鎮山樓下創建平遠縣城隍廟。
平遠城隍廟雖是土木結構，卻也朱門漆柱，雕樑畫棟，氣勢恢弘。其大殿供奉着高達5米多高的城隍爺塑像，披紅袍，穿大靴，目光炯炯。左右兩旁，各站着把筆、判官和日遊神、夜遊神四尊1.8米高的泥塑，栩栩如生，威武逼人。殿門頂懸掛刻寫“自問心”橫匾一塊，左右楹柱上鐫刻着一副長聯：
問汝生平，所幹何事：劫人財，坑人命，爭奪人田地，姦淫人婦女，是不是？睜睜眼睛，看世上多少惡焰兇烽，曾饒過哪個；
來我這裏，有冤必報：傾爾家，蕩爾產，滅絕爾子孫，短折爾陽壽，怕不怕？摸摸心頭，想從前許些詭計陰謀，還用得着嗎？
上堂兩側還有一副堂聯：
爾的妙計非凡，得一步，進一步，誰知滿盤都是錯；
我卻從不糊塗，有幾件，記幾件，從來報應總無差。
據史，載上述兩副對聯是在城隍廟竣工時，由江西省興國縣的進士李祖光撰作。兩副對聯對仗工整，文字通俗，簡淺明快，宣揚因果報應，以神的口氣鞭撻那些爲非作歹的人，真是入木三分。據說凡是昧着良心作惡做過壞事的人，走進城隍廟，擡頭看到威武森嚴的城隍爺，再看看這些警示楹聯，就會不寒而慄，恐遭報應。（馮錫煌）