公主岭市区域在我国秦汉时期为辽东北境外之夫余领地，后汉为扶余国地，晋为扶余，隋为室韦之南、靺鞨之西、契丹之东的高丽领地，唐为渤海扶余府地，辽为东京道黄龙府境，金为咸平信州地，元为辽阳行省开元，明属奴儿干都司，清为科尔沁左翼中旗地。
同治五年，设分防经历于八家子（现怀德镇），隶属于昌图厅（光绪三年正月，昌图厅升为昌图府）。光绪三年三月二日（1877年4月15日），盛京将军崇厚奏请清廷，欲置县于本境。十一月十七日（1877年12月21日）旨准，境内置县，治八家镇。分防经历移至康家屯（现辽宁省康平县）。
到了民国时期为怀德县，隶属奉天省（后为辽宁省）洮昌道，列为二等。1933年，实行县制改组，设治局一律改称县公署，怀德仍隶属奉天省，为乙等县。
1934年12月1日，东北被划分为14省，怀德县划归吉林省。自1937年至1943年，东北行政区划虽屡经变化，怀德县一直隶属吉林省。
1945年8月15日，怀德县驻公主岭镇。10月，划归吉合区行政委委员会长春地区管辖。下辖8个区。12月，怀德县划归吉林省直辖。不久，改归辽北省怀德专区。到了1946年2月，划归辽西省二专区。
1946年4月，为发动四平战役，因公主岭处于战略要地前沿，特成立中共公主岭中心县委，领导伊通、双阳、怀德县委（四平战役的战斗结束后撤销，划归辽吉区二专区）。
1947年5月，公主岭解放。
1948年2月，划归辽北省后方办事处。7月，划归辽吉区第二专区。同年10月，划归辽北省直辖。本县仍实行区村制度，分8个区。1948年，土地改革完成。怀德县辖10个区，239个村。
1949年3月31日，设立公主岭市，为丙等城市。5月，变为县辖市。怀德县划归吉林省管辖。1949年4月21日，东北行政委员会〔东建民字第15号〕令，辽北省的怀德县等划归吉林省管辖，下辖13个区（公主岭市为全省310个县辖区中包括的4个县辖市之一）。1949年8月，八区划给长春县。9月10日，九区一分为二，分出范家屯区，后二区机关由大岭迁到柳杨。
1950年4月，六区划出十屋区。10月20日，一区一分为二，成立了平安区。全县共分为12个区。
1952年9月，公主岭市定为区级市，隶属于怀德县。10月14日，撤销长春县，将长春县的三区烧锅、四区和气、五区双城堡划给怀德县，全县共分为15个区；1955年5月26日，各区取消以序数命名的区名，恢复原名。陶家屯区改称刘房子区。6月4日，设双城堡街、黑林子村为乡级镇。
1956年7月3日，经国务院批准，设立怀德专区，行署驻公主岭镇。辖怀德、榆树、农安、扶余、德惠、九台、梨树、伊通、双阳、东辽等lO个县。设立公主岭市，以原公主岭镇的行政区域为公主岭市的行政区域。9月，公主岭市改为区级镇，范家屯升为区级镇，撤销刘房子、十屋、平安、烧锅、和气等5个区。全县实行区、乡、社制。10月6日，怀德专员公署更名为公主岭专员公署，12日，公主岭镇从怀德县析出，成立公主岭市，以怀德县公主岭镇的行政区域为公主岭市的行政区域。为省辖市。设公主岭市人民委员会。
1958年1月，裁区并乡，撤销双城堡、黑林子乡级镇建制；保留范家屯区级镇、怀德、杨大城子乡级镇建制。2月10日，伊通县的二十家子、余庆号、放马沟、李家烧锅等4个乡划归怀德县，同时将二十家子乡变为乡级镇。原县内小乡合并成为33个大乡。调整后，全县辖乡、镇37个，同年7月，人民公社化，政社合一，全县37个乡、镇转为37个公社（镇）。1958年10月23日，经国务院批准，撤销公主岭专区，设立四平专区，将怀德县公主岭市等划归四平专区管辖。
1959年3月，公主岭市降为镇。辖15个社、镇。1959年7月3日，经国务院批准成立怀德专区，撤销公主岭市还怀德县，行署驻公主岭镇。10月6日，更名公主岭专区。10月12日，设立公主岭市，仍存怀德县。
1960年1月7日，经国务院批准，撤销公主岭市，恢复公主岭镇，隶于四平专区怀德县。公主岭镇辖15个社、镇，不久又划为28个社、镇。
1961年，将28个公社、镇调整为35个公社、镇。
1980年初，全县辖30个公社、3个镇。401个生产大队，3026个生产小队。同年，撤销怀德县革命委员会，成立怀德县人民政府。1983年4月，人民公社改为乡，生产大队改为村，生产小队改为屯。同年，和平乡改称龙山乡，建设乡改称育林乡。同年9月5日，经吉林省人民政府批准，撤销四平地区，设立四平市（地级），将原四平地区的怀德县等划归四平市管辖。
1985年2月4日，经国务院批准，撤销怀德县。设公主岭市（地级市）。以原县区域为公主岭市区域。撤销怀德县建制后，设立怀德区归公主岭市管辖。辖怀德、公主岭2个市辖区。将四平市的伊通县划归公主岭市管辖。
1986年1月20日，吉林省人民政府颁布《通知》：经国务院批准，将公主岭市改为县级市（不设区、不带县），由四平市代管，计划由省单列。
1987年12月，公主岭市辖11个镇、21个乡。410个村民委员会，2330个自然屯。
1995年12月，公主岭市辖5个街道办事处、19个镇、13个乡，129个居民委员会、413个村民委员会。
2001年9月3日，经国家科技部批准建立吉林公主岭国家农业科技园区，是全国首批确定的21个国家农业科技园区（试点）之一；同年12月27日，吉林省人民政府批复将园区纳入省级开发区管理序列，享有省级经济管理权限。至2002年12月，公主岭市辖7个街道办事处、19个镇、1个民族镇、7个乡、1个民族乡。
2006年6月，经国务院批准，建立公主岭市经济技术开发区，归吉林省政府直接管理。
2007年12月，经联合国社会发展委员会申请，国务院批准，公主岭破格提升为国际AAAA类城市，享受国际进出口城市优惠待遇。
