與倭拼命到底！”同時他要求部下，保持愛國軍人的精神面貌，謝晉元經常鼓勵大家要養精蓄銳，待恢復自由之後，再為國家效力，他對官兵們說：“在上海祖界，我們的言行，必須使友邦從我們身上看出中國軍人之氣概，從此認識中國之精神。”
1941年4月24日5點鐘，在上早操時，有四位上等兵遲到，在舉行精神升旗禮之後，謝晉元把這四位遲到的上等兵叫到跟前，沒有想到郝鼎誠等四人已被日偽收買，這些民族敗類突然拿起鐵鎬和其他兇器，向謝晉元發動突然襲擊，謝晉元身中數刀，不幸殉難。時年僅36歲。
謝晉元遇刺身亡的訊息一傳開，上海人民為之震驚，深為悲痛，前往弔唁的人絡繹不絕，達10多萬人。5月8日，國民政府通電嘉獎，並追贈他為陸軍少將。同時，中共領袖毛澤東也高度讚揚謝晉元及其率領的“八百壯士”，把他們與“平型關”、“臺兒莊”的抗日勇士們一同稱讚為是“民族革命典型”。馮玉祥特意撰文讚揚謝晉元與“八百壯士”，要求人們繼承謝晉元與“八百壯士”的精神，繼續努力。為了紀念謝晉元，將孤軍營所在地上海市膠州路，改名為晉元路。全國解放後，上海市