卡诺莎之行虽然可耻却有用。本来施瓦本公爵鲁道夫已经得到部分德意志诸侯的拥护，但亨利四世向教皇认罪，保住了王位，很快在战场上杀掉鲁道夫，消除了心腹大患。稳住阵脚后，亨利四世决定在原则性的问题上不能让步，继续强硬反对“主教叙任权”。1080年3月，教皇再一次威胁将亨利四世革出教门。

亨利四世也使出老把戏，在同年的美因兹宗教会议上，十九位主教和大主教表决罢免教皇，声称要砍掉毒蛇的头。德意志主教们推选出拉文纳主教为“对立教皇”，同样，格列高利七世也鼓动德意志内部亲罗马的诸侯推举一个“对立国王”。于是滑稽的现象出现了，国家里的一切变成双重对立，教皇对教皇，国王对国王，主教对主教，公爵对公爵。内乱不断，大家都忙着叛乱和平叛。

公元1084年，亨利四世羽翼丰满，决意铲除让他蒙受耻辱的格列高利七世。他率领一支强大的军队跨过阿尔卑斯山，进攻罗马。在半路上他还摘得了伦巴德国王的王冠，又把卡诺莎女伯爵（相传是格列高利七世的情妇）的田庄彻底捣毁。历史总是相似的，查理大帝还有奥托大帝都是当了伦巴德国王后就称帝了。

罗马城尚未攻下，亨利四世由自己拥立的“对立教皇”克莱门特三世加冕称帝了。郊外没有合适的教堂，只能搭两个简易帐篷，一个供皇帝着装和加冕用，另一个用来给已经加冕的皇帝做弥撒。虽然条件简陋，但礼节还是要做全套，气氛依旧庄重肃穆，来看热闹的百姓围了一圈又一圈。而此时城内的格列高利七世正忙着搬救兵，可惜援军进入罗马城后军纪败坏。所以亨利四世还没有打进来，忍受不了的罗马贵族先把格列高利七世赶跑了。

格列高利七世后来在流亡时病死。不过，大仇得报的亨利四世，结局也没有好到哪里去。后来罗马教廷拉拢了亨利四世的儿子亨利五世，亨利五世竟然倒戈反对亲生父亲。公元1106年，亨利四世在软禁中黯然去世。

亨利五世也没有和教廷联盟太久，双方再次因为“主教叙任权”闹翻了。在加冕典礼上公开发生冲突，亨利五世把教皇和十六位红衣主教当场抓了起来。罗马教廷则再次将皇帝开除了教籍。双方互不退让，直至1122年，新教皇卡利克斯特二世在沃姆斯城签订《沃姆斯宗教协定》，政教之争才暂时告一段落。

协定规定：德意志主教和修道院长不由皇帝任命，而是由教士选举产生。但是皇帝有权出席选举会议并加以干预。当选者由皇帝授予象征世俗权力的权标，再由教皇授予象征宗教权力的指环和牧杖。协定是双方妥协的产物，教皇削弱了政权对教权的影响，但没有完全实现教权高于政权的目标。政教之争同样也使德意志诸侯实力和独立性增强。