卫玠，字叔宝，河东安邑（今山西夏县北）人。卫玠出身于名门世家。祖父卫瓘乃是西晋权臣，还因为曾斩杀邓艾，在《三国演义》里亮过相。卫玠还是个小孩子的时候，就已经出落的秀美动人。这个小少爷坐着敞篷车到洛阳市区闲逛的时候，看见他的人都感叹这孩子真是“玉人”，都招呼亲朋好友来夹道观摩，据《晋史》说：“观之者倾都。”成人以后，更是饱受夸奖，有人说他像玉一样圆润，又有人说跟他走在一起，仿佛身边有一颗明珠，把自己映衬得像个猪头。

晋怀帝时，美男子卫玠任太子洗马（太子的侍从官）。他精读《易经》《老子》，说话往往是非常深刻的。由于统治集团内部矛盾重重，加上持续十六年之久的“八王之乱”，国家和人民处于深重灾难之中。北方的匈奴贵族刘裕又乘机起兵入侵。晋怀帝永嘉三年（公元309年），匈奴军队两次长驱直入，一直打到西晋都城洛阳，但都被西晋军队击退。

面对动荡不安的时局，卫玠决心把家迁往南方。他的哥哥在朝廷担任官职，母亲不忍心和他分离，卫玠劝她要以家庭大计为重，终于说服母亲同意南迁。永嘉四年，卫玠告别哥哥，离开洛阳，带着母亲和妻子一起南下。他哥哥不肯走，后来死在匈奴人手上。

卫玠一向体弱多病，一路上长途跋涉，餐风饮露，经受了千辛万苦。在将要渡长江的时候，他的神情容貌都显得憔悴不堪。他对左右的人说：“见到这白茫茫的江水，心里不由得百感交集。只要是一个有感情的人，又有谁能排遣这万千的思绪和感慨呢！”

社会动荡，卫玠南迁也没有能够安居乐业。过江不久，妻乐氏经不住旅途疲惫，不幸亡故。他辗转到达建康（今江苏南京）。卫玠舌头痒痒，一遇机会，定要冒两句，听众个个惊叹。清谈高手王澄（小名平子）佩服得五体投地。人称“卫玠谈道，平子绝倒”。可惜的是，身子单薄多病的卫玠于永嘉六年（公元312年）溘然长逝，年龄还未满三十岁。