劉遵祖少為殷中軍所知，稱之於庾公。庾公甚忻然，便取為佐。既見，坐之獨榻上與語。劉爾日殊不稱，庾小失望，遂名之為“羊公鶴”。昔羊叔子有鶴善舞，嘗向客稱之。客試使驅來，氃氋而不肯舞。故稱比之。

　　曾子问曰：“君薨，既殡，而臣有父母之丧，则如之何？”孔子曰：“归居于家，有殷事，则之君所，朝夕否。”曰：“君既启，而臣有父母之丧，则如之何？”孔子曰：“归哭而反送君。”曰：“君未殡，而臣有父母之丧，则如之何？”孔子曰：“归殡，反于君所，有殷事则归，朝夕否。大夫，室老行事；士，则子孙行事。大夫内子，有殷事，亦之君所，朝夕否。”

　　桓玄下都，羊孚時為兗州別駕，從京來詣門，箋雲：“自頃世故睽離，心事淪蕰。明公啟晨光於積晦，澄百流以壹源。”桓見箋，馳喚前，雲：“子道，子道，來何遲？”即用為記室參軍。孟昶為劉牢之主簿，詣門謝，見雲：“羊侯，羊侯，百口賴卿！”