在叛军气势汹汹焚毁城池，屠戮生灵，官军频频败退之时，各地区广大官民的抗战活动却风起云涌，士气高昂，他们自发地组织起来，在河北各地同叛军进行了英勇顽强斗争。平原郡(治今山东德州)太守颜真卿最早领导了这一地区官民，同叛军进行了艰苦卓绝的斗争。
颜真卿是个著名的书法家，出身于名门望族，是唐初大儒秘书监颜师右的裔孙。他进士及第，又制举及第，由监察御史升为殿中侍御史。他为人正直又有见识，不趋附奸相杨国忠，被排斥出朝廷，由东都采访判官出任平原郡太守。
颜真卿见安禄山图谋不轨，即以霖雨为借口，不断加固城啤，加深护城河，并暗中招募壮丁，增加粮食储备。
为了防止安禄山的怀疑，他每天与文人墨客泛舟外池，饮酒赋诗。安禄山得到密报，却认为颜真卿不过是一介书生，成不了大气候，不必大惊小怪。但谁也不曾想到，当河北诸郡相继陷入叛军之手时，唯独平原郡城守完备，并派司兵参军李平驰报朝廷。
起初，玄宗听说河北诸郡陷落，曾长叹说：“河北二十四郡，无一忠臣邪?"当李平赶到时他又笑逐颜开，高兴地对侍臣说：“朕不识真卿何如人，所为乃若此!"
平原郡位于河北道东南部，地处偏僻，安禄山起兵后，对这里的情况不甚了解，只是传牒平原，命颜真卿以平原、博平军七千人驻守河津，并命博平太守张献直做他的副手。
颜真卿得到牒令遂将计就计，公开招募勇士，人们纷纷响应，不到一旬，应募者就有万余人，加上原有的三千士兵，共一万三千人，命录事参军李择交统率训练，又命刁万岁，和琳、徐浩、马相如、高抚朗等为部将，分总部伍。颜真卿在城西宴会士卒，说明他立志讨伐安禄山，他慷慨陈词，声泪俱下，将士无不感激涕零。
天宝十四年(755)十二月，叛军攻陷洛阳之后，安禄山命其将段子光持李橙、卢奕和蒋清三人首级巡示河北，胁迫诸郡。
当他到了平原郡时，颜真卿恐动摇军心，便对诸将说：“我认识李橙等人，这三个首级是假的。”他设计腰斩段子光示众，暗中收藏好三个首级。过了几天，人心安定，才给三个首级续上用蒲草扎成的肢体，戴上冠饰，棺敛埋葬，祭哭受吊，哭声哀切，人心益服。
这时，安禄山命海运使刘道玄摄景城太守，清池尉贾载与盐山尉穆宁合兵杀死了刘道玄，缴获甲仗五十余船，并提刘道玄首级来见景城长史李肺，李肺即日又将首级传至平原郡。
颜真卿见他们一心抗敌，便将贾载、穆宁及清河尉张澹请到平原，共议抗敌大计。其他各郡县也开始抗击叛军，饶阳太守卢全诚坚守城池，拒绝叛军新上任的太守就职；河间司法李奂杀死了安禄山任命的长史王怀忠；济南太守李随派游弈将訾嗣贤西渡黄河，袭杀了安禄山任命博平太守马冀。他们各拥兵数千人，多的近万人，共同拥戴颜真卿为盟主，接受他的指挥。
于是，在河北道东南部逐渐形成了一个以平原郡为中心，以颜真卿为盟主的反击叛军的策源地。
常山太守颜杲卿是颜真卿族兄，为了东西联兵抗敌，切断叛军北归之路，以缓和叛军西攻长安，颜真卿派杲卿的外甥卢逖潜入常山，秘密联络。
颜真卿接连擒杀安禄山过往的大将，打开了士门，于是河北诸郡又先后归顺了朝廷。共同推颜真卿为帅，拥兵二十多万，“横绝燕、赵”。颜真卿领导的抵抗叛军的力量有了迅速的发展与壮大，玄宗嘉奖他的功勋，先后授任户部侍郎、河北采访使。
这时，清河郡(治今河北清河)有一青年，名叫李萼，英俊强健，自称受清河郡父老委托，与几位同乡前来借兵。他对颜真卿说：“您首唱大义，河北诸郡把您看作抗敌的长城。清河郡与平原相毗邻，而且是江、淮、河南的钱帛集结之地，以供应北方边镇的军需，号称‘天下北库’,现在尚存布三百余万匹，帛八十余万匹，钱三十余万缗，粮三十余万斛。过去武后征讨默啜，兵甲皆储藏在清河库。清河现有七万户，十余万人。我估计财富有三个平原之多，兵力二倍于平原之强。如果能允许借兵，据有清河，再以二郡为腹心，其余各郡如同四肢，无不使唤自如。"
起初，颜真卿感到平原兵马是最近刚刚集结在一起的，未加训练，拥兵自保尚感到兵力不足，他又不肯说明借兵的用意，因而面有难色。后来见他说得很有道理，想答应借兵。可是诸将认为他“年少轻虏，徒分兵力，必无所成”,颜真卿不得已，只好推辞。
李萼回到馆舍，给颜真卿写了封书信，信中说：“清河去逆效顺，奉粟帛器械以资军，公乃不纳而疑之。仆回辕之后，清河不能孤立，必有所系托，将为公西面之强敌，公能无悔乎?”颜真卿读完他的书信，觉得此事至
关重要，立即去馆舍会见他，答应借给他六千人马，还亲自送他到郡界，握手告别，并询问他借兵的用意。
李萼说：“听说朝廷派程千里率十万精兵，欲出惇口讨伐叛军，却被魏郡太守袁知泰所阻，现在袭破魏郡，打开惇口，迎接官军，就可以南下攻取汲、邺等郡，与平原、清河会师，合兵十余万，南临孟津，据守要害之处，就能控制叛军归路，与河南义兵相呼应，只要坚壁勿战，不过月余，贼必有内溃相图之变矣。”颜真卿听罢，连声称是。
颜真卿按照约定，命录事参军李择交、平原令范冬馥各率本部兵马，与清河兵四千人、博平兵一千余人会合一起，进军堂邑(今山东聊城西北)。袁知泰派其将白嗣恭率兵二万前来迎战，唐三郡兵士众志成城，奋力拼杀，把魏郡兵打得落花流水，斩首万余人，俘虏千余人，缴获战马千余匹。经过这一战，魏知泰吓破了胆，弃城逃往汲郡，“遂克魏郡，军声大振”。
叛将史思明率兵围攻饶阳郡(治今河北饶阳),担心平原出兵救援，于是派游弈兵前来阻援，前锋已距城十里。颜真卿怕抵敌不住，一面派骁将刁万岁以三千兵迎敌，一面向北海(治今山东维坊)太守贺兰进明求援。
贺兰进明亲自率五千兵前来助战。贺兰进明所部驻扎在平原城南，暂且休养士马，颜真卿每有军机大事常常咨询他，由他裁决，因此军权渐渐转移到他的手中，而颜真卿豁达大度，以大局为重，不以为嫌。
颜真卿把堂邑之战的功劳推给贺兰进明，他也毫不推辞，在上给玄宗的表奏中任意取舍，把功劳归于自己，因而晋升为河北招讨使，仅给在战斗中出生入死的李择交、范冬馥记一小功，而清河，博平的作战有功人员皆不录进，人有怨言。后在贺兰进明攻打信都时久攻不下，录事参军第五琦劝他以重赏招募勇士，才攻克了信都。
至德元年(756)四月，平卢节度副使吕知诲诱杀了安东副大都护马灵答，平卢游弈使刘客奴、先锋使董秦与安东将领王玄志合谋诛杀吕知诲，并派使者渡海告知颜真卿，请攻取范阳以报效朝廷。
颜真卿即派判官贾载送去了粮食和衣物，鼎力相助。同时，又将自己仅十岁的独生子颜泉明送去做人质，以取得他们的信赖。颜真卿还将此事上报朝廷，玄宗任命刘
客奴为平卢节度使，并赐名正臣；还任命王玄志为安东副大都护，董秦为平卢兵马使。后在袭取范阳的途中，被史思明击溃，刘正臣委弃妻子而逃，战死的士卒有七千余人。
颜真卿领导平原地区的广大官民进行艰苦卓绝的斗争，后来潼关失守，玄宗逃往成唐明皇幸蜀闻铃处都，叛将史思明又乘机攻略河北诸郡，饶阳、河间，景城、乐安等郡相继陷落，唯独平原、博平、清河三郡城仍在坚守。
但大势已去，人心动摇，才被迫弃城西入关中。颜真卿在叛军的腹心之地坚持抗战历时半年多，使安禄山如芒在背。