Heinrich VI. hatte kurz vor seinem Tod seinen Bruder Philipp von Schwaben angewiesen, den Thronfolger nach Aachen zur Krönung zu geleiten und damit dessen Nachfolge endgültig zu sichern. Bei Viterbo erhielt Philipp die Nachricht vom Tod seines Bruders und mußte sich kurz darauf wegen spontaner Aufstände in Italien nach Deutschland zurückziehen. Friedrich II. blieb in Foligno, seine Mutter herrschte nun ohne Statthalter in Sizilien. Um weitere Aufstände der stauferfeindlichen Bevölkerung zu vermeiden, wies sie die Anhänger Heinrich VI. aus. Am 17. Mai 1198 wurde Friedrich II. nach byzantinischem Ritual zum sizilischen König gekrönt, was seine einseitige Festlegung auf Sizilien besiegelte. Dem Papst war Constanzes Politik einer Trennung beider Reiche willkommen, er unterstützte sie gegen die Staufer, die sich nicht freiwillig aus Sizilien zurückziehen wollten. Dafür erhielt die Kurie verschiedene Reichsrechte zurück, Papst Innozenz III. wurde als Vormund für Friedrich II. nach Constanzes Tod (28. November 1198) eingesetzt. Die Herrschaft des jungen Königs war zu diesem Zeitpunkt auf Sizilien beschränkt.
Auch in Deutschland kam es zu Unruhen: der Kaiser war tot, mehrere mächtige Reichsfürsten befanden sich wegen des Kreuzzuges schon in Beirut. Die Herrschaft eines Kindes über das instabile Riesenreich schien problematisch. Philipp von Schwaben versuchte, sich als Regent seines minderjährigen Neffen zu etablieren, stieß aber auf den Widerstand antistaufischer Kräfte, die sich unter Erzbischof Adolf von Köln formierten. Dieser wollte die Entscheidung über den deutschen König an sich reißen, während der Erzbischof von Mainz sich noch auf dem Kreuzzug befand. Neben Adolf plädierten auch die Stadt Köln und das sächsische Herzogtum für einen nichtstaufischen König. Hugo Stehkämper hält die Stadt Köln und England für die Wahlmacher Ottos IV. Nach der Freilassung Richard Löwenherz’ aus der staufischen Burg Trifels gegen ein gewaltiges Lösegeld unterstützte England natürlich die Gegner der Staufer, die Welfen. Da aber Heinrich von Braunschweig, Sohn Heinrich des Löwen und erster Kandidat, noch in Palästina war, einigten sich Köln und England auf den Welfen Otto von Poitou, der lange am englischen Hof gelebt hatte. Auch Adolf wurde zur Unterstützung bewegt, auch wenn er wegen der Bedrohung seiner westfälischen Gebiete durch die Welfen eigentlich kein Interesse an Otto als König haben konnte. Am 9. Juli 1198 wurde der Welfe schließlich als Otto IV. zum deutschen König gewählt und am 21. in Aachen mit einer Ersatzkrone gekrönt. Nun war die staufische Partei in Zugzwang und ließ am 8. September 1198 Philipp, der schon im März gewählt worden war, in Mainz mit den Reichsinsignien krönen. Es herrschte eine Patt-Situation: Otto war am richtigen Ort gekrönt worden, Philipp mit der echten Krone. Beide hatten ungefähr gleich mächtige Unterstützer (wenn auch Philipps Anhang zahlreicher war), Otto erhielt finanzielle Unterstützung aus England, Philipp hatte das Lösegeld Richard Löwenherz’ und den normannischen Königsschatz auf der Burg Trifels. Wegen des welfisch-englischen Bündnisses schloß Philipp ein Abkommen mit Frankreich, so daß sich der Thronstreit zunehmend zu einem europäischen Konflikt entwickelte und Deutschland ein Nebenschauplatz wurde.