李元昊的祖父李继迁占据了河西银州、夏州等地，并兼并了那里的各个部，还时不时对大宋进行骚扰。当时的名将李继隆、范廷召等诸将多次征战，未能取得满意结果。宋太宗询问开国名将曹彬，谁可以为将？曹彬说，臣少子曹玮可。朝廷启用那一年，曹玮年仅十九岁。
（曹玮是曹彬四子，自幼跟随曹彬军中成长。他沉勇有谋，喜读书，通晓《春秋三传》，尤精于《左氏春秋》。曹彬病危时，宋真宗去探望，问后事。曹彬称曹璨、曹玮均可为将。真宗再问谁优，答：曹玮）
曹玮知道李继迁虐用他的民众，下属有怨言。他写信给那些部族，宣扬朝廷恩德，挑动诸羌。因此，康奴等部族请求内附。在李继迁攻打西蕃后返回，曹玮在石门川伏击，杀获甚众。
当时河西大族延家、妙娥、熟鬼等部落企图归顺宋朝，有不少将领非常犹豫，害怕得罪李元昊的父亲李明德而不敢接纳。曹玮亲自率兵进入天都山，将延家、妙娥等接纳归降。李明德惧怕曹玮威名，不敢挑衅。显然：曹玮此举，有效的削弱了李氏的力量。
不久，曹玮联合了朝廷亲信、名将秦翰，在武延川击败了章埋族，分兵平凉灭了拔臧，于是陇山诸族都来献地。
宋真宗知道曹玮熟悉河北事物，任命他为高州刺史、真定府定州路都钤辖。后因功调任泾源路都钤辖兼知渭州。曹玮绘制了泾源、环庆两路的山川城郭、战守险要之处，献于朝廷。真宗留一份给枢密院，另一份交付两路保存，让诸将出兵都按此图来商议。
曹玮治军“自成一家”。山东名士贾同前来拜访曹玮，住在客舍。之后，曹玮邀请贾同巡边。贾同深感不安：曹玮巡边怎么不带护卫。曹玮说已经到位了。三千甲士不知什么时候已阵列门外，贾同竟然没有一点察觉。
曹玮知秦州时，一次视察边防，发现部队工事挡箭板不符合规定。曹玮要求更换。一老将说：我们一直都是这样的。曹玮说必须纠正过来，必须符合规定。对于做错，又不改，还强词夺理的，斩首。众将士求情：这个老将立过功，还善于带兵，因为这点小事而被斩首是不是太严格啦。曹玮不为所动，当即将这个老将斩首示众。从此以后，曹玮的军队严格执行命令，不含糊。
渭州有十几名（也有说是数千）士兵叛逃西夏。守卫来报时，曹玮正在与宾客下棋。守卫再次报告情况，曹玮怒斥：他们都是奉我的命令行事的，还要给你说明吗？结果，叛逃的士兵全部被西夏军斩杀。据说，西夏军不知怎么就知道了，以为降兵是奉命来诈降偷袭的。曹玮这个“借刀杀人”计，冯梦龙在《智囊全集》中被称为“冯雎杀宫他之智”。
曹玮作战神出鬼没。一次，与吐蕃军作战。初战即打得吐蕃军溃败，仓惶而逃。他命令士兵将缴获的一大群牛羊往回赶。牛羊走得慢，将士们建议丢下这种影响行军，且没有太多用的牛羊。曹玮不同意。没多久，溃逃几十里的吐蕃军听说了这个有利可图的时机，又杀回来了。吐蕃军与宋军对峙，曹玮说：你们奔跑都累了，休息一下再战吧。吐蕃军同意。休息了一会儿，曹玮提议再战。结果宋军一鼓作气，仅一个回合就把吐蕃军打得大败。
事后，曹玮告诉他的部下：让士兵赶着牛羊走，就是诱惑敌军返还；这个时候我已埋下伏兵，做好准备。敌人来回奔波近一百多里，虽然辛苦，但是其锐不可当；让其休息，一方面减弱其锐气，另一方面，奔波的人疲惫不堪，一旦休息，腿脚发麻无力，这样的军队怎么能抵御我们以逸待劳胜利之军呢？
曹玮镇守边关时，让人修筑城寨，直到宋哲宗时还很好。名将章案评论他修建的防御工事“捍蔽坚全，至今蒙利”。
曹玮在镇戎军时，疏浚堑壕“三百八十里”，实际上等于在秦陇一带筑起了一道长城。
曹玮加强武装。一方面整治蕃军。一改宋军对其管理松懈之风，对他们编制、官衔、军饷进行了制度化、正规化，提高了蕃军战斗力，成为宋军得力助手；另一方面招募“弓箭手”。按武功分土地，激发了他们的积极性：敌人来犯，他们为了保护好自己的土地，战斗力爆棚。这样组织起来的民兵，成了宋军的一支奇兵。据说，之后的范仲淹、种世衡等借鉴了这种做法，也组织蕃汉弓箭手，在御夏战争中起到了很大作用。
据专家研究知：曹玮为将四十年，未曾失利。他治军严整，史称其“平居甚闲暇，及师出，多奇计，出入神速不可测”。自三都谷之战后“威震四海”，唃厮啰每闻其名，即以手加额。
契丹使者经过曹玮驻地天雄军时，告诫随从一律慢行，不准策马飞奔。
曹玮是昭勋阁二十四功臣之一。
