1928年6月3日夜吴俊升陪中华民国陆海军大元帅、奉系军阀首领张作霖乘专列返奉，4日晨五时二十七分列车行至皇姑屯三洞桥铁路交叉处，火车被日本关东军设伏炸毁，吴俊升头部受伤当即身亡，张作霖重伤送回沈阳，当日死去，结拜兄弟二人同日死了，正应了“但愿同死”一语。
吴俊升
吴俊升1863年10月11日生于奉天昌图，祖籍山东历城，出身农家，其父以贩马为业，吴俊升五岁随父落户于奉天省郑家屯，因生活贫穷，八岁就给大车店喂猪放牧牛马。
1880年吴俊升投奔清军捕盗营丁春华把总手下充当伙夫，三年后自备马匹和武器，当上了一名骑兵，吴以习马性、识马行、善相马闻名营内外，其酷爱军旅生活，处事圆滑，由什长而哨长，成了丁春华的得力助手。
清末辽西土匪猖獗，四处抢掠，吴俊升在讨伐胡匪、蒙匪战斗中，常为军中先锋，屡立奇功，于1906年升任奉天后路巡防营统领，调驻郑家屯，1907年6月张作霖移驻郑家屯，两人皆行伍出身，一见如故，于是张作霖与马龙潭、吴俊升等八人结拜为兄弟，相互提携、共同发展，以年龄为序，张作霖排行第七，马龙潭排行第一，吴俊升次之。
辛亥武昌首义后，吴俊升奉总督赵尔巽之命率部赴奉天拱卫省垣，曾与张作霖联名致电袁世凯，请率兵勤王，镇压革命。
清王朝被推翻后，帝国主义乘中国政局动荡，唆使中国反动势力策动“满蒙独立”。为拼凑“勤王军”，日本陆军于1912年6月护送50大车枪械弹药至郑家屯时，被吴俊升派出的探子获知，随后吴俊升半路截杀，弹械被全部炸毁，此后日军数次偷运军火，都被吴俊升截击击遗，吴此举沉重打击了日本帝国主义策动的第一次“满蒙独立运动”。
与此同时沙俄也支持内、外蒙古叛匪在东北窜扰，同时给予枪支弹药等装备及人员支持。沙俄派人游说吴俊升，以东蒙古王位、上将军及5万卢布诱使，吴俊升对此嗤之以鼻，置之不理。
1912年8月20日在沙俄与外蒙分裂分子的煽惑下，乌泰经过长期策划在归流河南岸举兵叛乱，9月7日吴俊升所部巡防营830余人，自郑家屯开赴洮南，与乌泰叛军展开激战，叛军伤亡惨重，四处逃散，乌泰本人逃跑。9月13日吴俊升所部奉军攻克乌泰叛乱据点葛根庙，并克复乌泰王府，乌泰携全家老小败逃索伦山，叛乱基本平息。吴俊升平乌泰叛乱之胜利，粉碎了沙俄分裂中国的阴谋，维护了国家的统一和民族团结，吴俊升也因骁勇善战，剿匪严厉果敢扬名，威震塞外。
1913年5月吴俊升被授予陆军中将衔，8月外蒙叛军4000余人在沙俄唆使下进犯辽源，被吴击败，9月18日外蒙古军队千余人进犯辽源，被奉军统领吴俊升部击败。1914年2月吴俊升晋升陆军中将，1915年袁世凯大搞帝制，吴曾递请愿书劝进。
1916年日军悍然挑起中日军事冲突，制造“郑家屯事件”，日方提出种种无理要求，北京政府接受驻华日本公使的“警告”，吴俊升被迫屈服承认，赔礼道歉。
1916年5月二十七师师长张作霖与二十八师师长冯德麟为争“奉天王”秣马厉兵，吴俊升向张作霖表示全力支持，冯因附张勋复辟被解职，由张作霖兼任二十八师师长。1917年6月张作霖将后路巡防营与骑兵第二旅合并改编为陆军第二十九师，任命吴俊升为师长，以报答吴助臂之功，同年10月吴受张作霖派遣进驻齐齐哈尔，解除黑龙江省驻军旅长巴英额、英顺的兵权。
1919年7月吉林督军孟恩远被解职，孟的外甥吉林师长高士傧兴师讨伐张作霖，张任命孙烈臣为东三省南路总司令，吴俊升为北路总司令进行夹击，高士傧被撤职查办，孟只好交出吉林政权，1921年3月孙烈臣调任吉林省督军兼省长，吴俊升署黑龙江省督军兼省长。
吴俊升从此以黑龙江省为基地，发展地方势力，实行军阀统治，他在黑龙江达统治七年之久，极力驾驭部下，培植爪牙，把黑龙江省变成吴家天下，百般弄权，简直就是当地的土皇帝。
1922年4月至5月的第一次直奉战争以奉系失败而告终，5月10日北京政府免去张作霖本兼各职，任命吴俊升为奉天督军、冯德麟为黑龙江督军。直系吴佩孚想以山东同乡同族关系拉拢吴俊升，离间分化张作霖旧部，吴俊升不为所动。张作霖于5月12日宣布东三省独立，自任奉军总司令，吴俊升、冯德麟等通电否认北京政府命令，6月8日东三省议会联合会推举张作霖为东三省保安总司令，孙烈臣、吴俊升为副司令(孙、吴仍任吉林、黑龙江督军)，正式宣告联省自治，吴俊升作为张作霖的伙伴，一切遵照张的旨意。
由于曹锟贿选总统，吴佩孚坚持武力统一，遭到全国人民反对，直系内部因内阁等问题也起分化。1924年9月初直系江苏督军齐燮元联合福建的孙传芳，向皖系的浙江督办卢永祥发起进攻，江浙战争爆发，孙中山、段祺瑞等通电支持卢永祥，张作霖借口援卢，迅速调集十七万人马，编成六个军，于9月15日向山海关、热河进发，17日第二次直奉战争打响，吴俊升任奉系第五军军长，率二十九师及两个混成旅攻占开鲁，进逼赤峰待命，并将留守部队均配置黑龙江各要冲，巩固后方。是役奉军占明显优势，而直军冯玉祥又于10月23日发动北京政变，使吴佩孚腹背受敌，全军主力丧失殆尽，万不得已于11月2日率残部二千余人乘舰南下。
第二次直奉战争之后，张作霖与冯玉祥的矛盾逐渐扩大，各方调和的结果是把段祺瑞重新推上政治舞台，任中华民国临时执政。1924年12月张作霖令吴俊升督办黑龙江省军务善后事宜，1925年元月吴将省防军改为保卫团，2月“善后会议”开幕，吴俊升为善后会议会员之一，3月东北军再次整编，吴兼任第十八师师长。
吴俊升
1925年10月吴俊升奉张作霖命令，指挥骑兵向多伦、张家口进军，袭击冯玉祥西北军后路。11月下旬，吴俊升接到张作霖关于郭松龄在滦县倒戈反奉的告急电，吴立即从热河班师助张，张作霖派吴为“讨逆”军总司令兼左翼军司令，12月吴亲至前线督阵，指挥部队除一部增援张作相的右翼外，其余均在左翼形成夹击郭军态势，23日巨流河决战，郭军受挫，由胜转败。24日吴部骑兵更乘机袭击郭设在白旗堡的指挥部，郭松龄夫妇潜逃，被追上俘获，傍晚押在新民老达房，25日郭被害于老达房村外。29日张作霖在帅府召开讨郭善后会议，吴俊升等一些老派人物认为附“逆”的这些东西都是“郭鬼子”（郭松龄外号）一手训练出来的，将来恐怕靠不住，不如将他们一网打尽，坚持主张“刑乱用重，此辈叛徒，不（宜）轻恕”。
1926年1月奉张作霖与冯玉祥的国民军再战，7月吴俊升部先后占领榆树沟、沙门口和多伦。时北伐军已从广东出发，接连在两湖、赣闽战场取得胜利，为了挽救北洋军阀即将灭亡的命运，解决北方统一及对南用兵问题，张作霖屡次召开会议，吴俊升、张作相等老将希望保境安民，而张宗昌及少壮军官则要求以援吴（佩孚）、援孙（传芳）。
1926年11月在天津蔡园会议上吴俊升与孙传芳、张宗昌等十六名将领联名通电，推举张作霖为安国军总司令，张于12月就职，随即出兵河南及苏、皖，吴俊升、张作相负责巩固后方。
吴俊升
1927年6月吴俊升、孙传芳等再次拥戴张作霖为中华民国陆海军大元帅，组织安国军政府，吴俊升任第七军团军团长，10月吴被任命为东三省边防司令兼保安总司令。翌年1月，以通化为中心的东边道大刀会暴动，反对封建军阀和日本帝国主义侵略，吴俊升亲自率部配合宪兵司令齐恩铭督“剿”，残酷屠杀大刀会员和无辜农民三千余人，烧毁民房数千间。
张作霖
1928年4月国民党继续北伐，蒋（介石）、冯（玉祥）、阎（锡山）、李（宗仁）的一、二、三、四集团军向张作霖的安国军进攻，安国军节节败退，吉、黑增援军已赶到关内，张作霖派吴俊升至德州布防，旋命吴在榆关设后方总司令部，吴于5月上旬偕张作霖家属回奉。
张作霖见大势已去，决定退回关外，日本政府乘机要挟奉方解决“满蒙悬案”，未得满意回答，日本军方必欲除掉张作霖。张作霖于1928年6月3日夜乘专列返奉，吴俊升得报前往山海关迎接，并同车北行，4日晨五时二十七分，列车行至皇姑屯三洞桥铁路交叉处，火车突然被日本关东军高级参谋河本大作等设伏炸毁，张作霖重伤送回沈阳，当日死去，吴俊升头部被一硬铁扎入，脑浆外溢，当即身亡，终年六十五岁，正应了“但愿同死”一语。
皇姑屯事件
吴俊升作为军阀，集强悍、愚昧、荒唐、贪婪于一身，他依仗权势，搜刮民脂民膏，财产不计其数，在东北除张作霖之外，吴数第二号财主，占有良田竟达二十七万垧之多，吴还广办工商业，有绥滨火犁公司、油房杂货栈、钱庄银号及黑河金矿和典当多处，家养三千匹蒙古马，上百头双峰驼，每出巡得用两节车厢随车供其玩赏。
吴俊升的独子吴泰勋在抗战期间曾投靠汪伪政府，抗战后投靠戴笠，1949年10月15日华北人民法院以大汉奸的罪名通缉吴泰勋，其于同年12月因病去世。
