就常隨母親廉氏住在廉家別墅“廉園”裡修文習武，園內有兩萬多卷藏書，因此，他從小就受到了漢文化的深厚薰陶。
貫雲石初襲父職為兩淮萬戶府達魯花赤，27歲任翰林侍讀學士，是歷史上第一個維吾爾族翰林學士。他出身武官家庭，自幼武藝超群，後棄武學文，酷愛漢族文化，學習勤奮，多才多藝，在詩文、散曲方面有很深造詣。他專心致力於學問，潛心研究我國古代典籍，著有《孝經直解》一書。1308年，他北上大都（今北京），從師於著名古文家姚燧。他十分傾慕大詩人李白的豪情逸志，淡泊功名利祿，更醉心於當一名江南隱士，於是稱疾辭官，浪跡於江浙一帶，與漢族士大夫交遊，寫作了大量散曲，著稱於當時。今存小令79首，套數8篇。《元史…小云石海涯傳》載：“小云石海涯，家世見其祖《阿里海涯傳》。其父楚國忠惠公，名貫只哥，小云石海涯遂以貫為氏，復以酸齋自號。母廉氏，夜夢神人授以大星使吞之，�