從小聰慧過人，八歲時，一次從劉淵上山打獵，忽遇暴雨，劉曜與同行者避於樹下。其時，迅雷震樹，別人都仆倒在樹下，唯劉曜神色自若。劉淵十分驚異說。“此吾家千里駒也。”劉曜身長九尺。三寸，垂手過膝，白眉，目有赤光，鬚髯不過百餘根，而皆長五尺，不僅儀態不凡，而且性格“拓落高亮，與眾不群”。讀書志於博覽，不求精思章句，射技尤佳，能洞穿一寸厚的鐵板，被稱為“神射手”。少有大志，常以樂毅、蕭何、曹參自比，劉聰評其曰：“永明，漢世祖（劉秀）、魏武帝（曹*）之流，數公何足道哉！”。年輕時遊歷於京城洛陽，因事犯有死罪，後逃出，輾轉*至朝鮮，以後朝廷大赦，遂又返回幷州，居於汾陽的管涔山。
徵兆故事
自匈奴劉淵起事以來，漢國曆代國君都要杜撰一些聳人聽聞的祥瑞徵兆故事。史載劉曜在隱居管涔山時，一天晚上，忽有二童子，手託一劍，跪在劉曜面前說道：“管涔王使小臣奉見趙皇帝，獻劍一口。”