元宅元年(公元684年)，徐敬业的同党监察御使薛仲璋在魏思温的秘密指使下，借故来到扬州，硬说扬州长史(当时代行部督职权的官)陈敬之要谋反，当即抓了起来，关进了监狱。几天之后，徐敬业也迅即来到扬州，冒称是朝廷派来的扬州司马(州的属吏，掌管军事)，并说自已奉了朝廷的密旨，来扬州调兵遣将去讨伐高州(今广东茂名市)酋长(少数民族的首领)冯子猷的叛乱。于是打开了府库，拿出金银财宝和武器，释放了囚徒和工匠，杀死了陈敬之。徐敬业自称匡复府上将、扬州大都督，任命唐之奇、杜求仁为左右长史,李宗臣、薛仲璋为左右司马，魏思温为军师骆宾王为记室(相当于现在的秘书)，十几天里便招聚了十几万的人马，准备向朝廷发动进攻。

他们为了说明起兵的原因，争取各地官兵和百姓们的响应，还让骆宾王(原长安主簿、诗人、唐初文坛四杰之一)写了一篇讨伐武则天的檄(xí)文。檄文开头写道：“现在临朝听政的太后武则天，貌似温良和顺，实则残忍暴虐，而且出身贫贱，没有任何资历。她原是唐太宗的下等嫔妾，后来巧言令色勾引上了高宗皇帝。”檄文把武则天骂了一通之后，笔锋一转，又写道:“你们或者是唐朝世袭的大官，或者与唐朝有姻亲关系，你们有的是领兵的大将，有的是辅佐朝廷的大臣。现在先帝的遗命还在耳边回响，怎能坐视国家危难而不尽忠献身?现在高宗的坟土还没有干，中宗皇帝却被废掉，我们不保中宗皇帝复位谁来保他?我们决定起兵讨伐武氏了。”

徐敬业起兵叛乱的消息和这篇檄文，很快传到了神都洛阳。武则天拿到檄文，仔细观看，对于其中一些辱骂她的话，并不恼怒，只是说:“我的性情就是不那么和顺，我的门第也的确是寒微，我是木材商人的女儿，当然不是出自名门。”她继续看下去，不断微笑着，有时也插一两句话。当最后读到“高宗的坟土还没有干”，及“试看今日之域中，竟是谁家的天下”几句话时，才开口问侍臣说:“这篇文章是谁执笔写的?”有人答:“是骆宾王。”则天说:“文章写的着实不错，调子满铿锵(kēng qiāng)的，只是内容许多地方不是事实。这样会写文章的人，当初为什么不加以重用呢?埋没了人家的才华，让人家怀才不遇，有本领而没处去使，这都是当宰相的过错啊!”

接着，则天就派遣唐朝宗室李孝逸为扬州道大总管，带领三十万人马讨伐徐敬业，同时派人挖开徐敬业的祖坟，烧毁尸骨。