據說，唐朝有個叫張打油的，平常喜歡作俚俗詩。一天，大雪紛飛，天地渾然一色，張打油突然詩性大發，吟《雪詩》一首：
江山一籠統，井上黑窟窿。
黃狗身上白，白狗身上腫。
這首富於風趣、逗人發笑的打油詩，形象而誇張地描繪出了雪中奇景的特色。於是人們將此類俚俗淺露、引人開心的詩作叫作“打油詩”。張打油從此遠近聞名了。
又一天，也是下大雪，張打油在一官衙牆壁上題了一首詩：
六出飄飄降九霄，
街前街後盡瓊瑤。
有朝一日天晴了，
使掃帚的使掃帚，
使鍬的使鍬。
老爺升堂，見了牆上的句子大怒，便差人將張打油抓來。張打油委屈地說：“我怎麼會做出這種亂七八糟的詩來呢!假如不信，你出個題目當場試試我的詩才如何?”正巧當時南陽被叛軍包圍，向各處請求派兵救援，縣太爺就以此事爲題，命張打油作詩。張打油隨即吟詠：
天兵百萬下南陽，
老爺連聲稱讚：“有氣魄!牆上的詩一定不是你作的。”並催促快吟下去。張打油又吟道：
也無救援也無糧。
有朝一日城破了，
哭爹的哭爹，
喊孃的喊娘。
詩的格調與牆上的那一首一模一樣，縣太爺被逗得大笑起來，就把張打油放了。
這兩首詩前兩句還象像詩，而後三句俚俗並逗人發笑，其實這也是爲人們所樂於傳誦的原因。