高琼，字宝臣，亳州蒙城人氏，祖父高霸和父亲高乾都在契丹为官。后来高霸出使南唐遭到暗杀，高乾便投靠了北宋，被任命为中门使之职，并将整个家族搬到了京城汴梁。
不过，高琼的经历与很多北宋武将不同，他既没有早年从军，也没有在父母的管教下认真学习，而是为祸乡里，成为当地著名的地痞无赖。《宋史·高琼传》载：“琼少勇鸷无赖，为盗，事败，将磔于市，暑雨创溃，伺守者稍怠，即掣钉而遁。”从此成为官府通缉的要犯。
宋太宗赵光义担任京兆尹时，得知高琼武勇，便将其招致麾下担任侍卫，这段经历使得高琼的人生发生巨变。等到赵光义登基后，高琼立即被晋升为御龙直指挥使，成为北宋军中的一员高级将领。
不过，高琼的仕途靠的并不仅仅是赵光义的关照，其勇猛的作战风格及突出战绩也是令赵光义对其青睐有加的重要原因。据《宋史》高琼传》载，北宋太平兴国四年(公元979年)，高琼随赵光义一起征讨北汉，在高粱河一役中曾杀出重围与赵光义会合，由此深得器重，被授予天武都指挥使、西州刺史之职。
随后数年间，高琼有多次出现在对抗辽国入侵的战场，屡立战功，并因此历任天武右厢都指挥使、富州团练使、侍卫步军都指挥使、归义军节度使、并州马步军都部署、保大军节度使等职，成为宋军在不被边陲抵御辽国入侵的名将。
宋真宗赵桓继位后，高琼又与名臣寇准一起坚决主张对辽采取强硬路线，加强军事打击，收复被辽国侵占的国土。在此期间，高琼还多次亲临战场指挥对辽作战，并取得了檀州一役的胜利。就在高琼奋战边陲之时，手下有位将领也因为作战勇猛、足智多谋而受到高琼的器重。这个人，便是后来令辽军威风丧胆的杨延昭。
据《续资治通鉴长编》载，大宋咸平五年(公元1002年)，杨延昭因保州之战失利，被押至京城治罪。部分大臣上奏宋真宗，要求处死杨延昭。此时，高琼及时出面进行劝阻。他对宋真宗表示：“嗣、延朗，素勤尽勇于战斗，今特宥之庶，收其后效也”。这一建议终于得到宋真宗的采纳，杨延昭也得以继续奋战在抗辽的前线，为北宋边境的稳定立下汗马功劳。
高琼为官数十载，不仅战绩卓著，与宋太宗、宋真宗的关系也非常密切。澶渊之盟后，主和派大臣王钦若迫害名臣寇准，使之被罢官。而高琼也受到了王钦若等人的诬陷，但宋真宗不为所动，继续重用高琼。这也足见高琼在北宋政坛的地位。
大宋景德三年(公元1006年)，高琼病逝，终年七十二岁，宋真宗因此罢朝两日以示悼念，此后有追赠高琼为侍中一职。
