Nach dem Tod des großen Kaisers war das Ende der Staufer noch nicht abzusehen. Er hatte 19 Kinder aus seinen drei Ehen und verschiedenen außerehelichen Beziehungen. Aus seiner ersten Ehe mit Constanze stammte sein (schon verstorbener) Sohn Heinrich (VII.), dessen Sohn Friedrich, der designierte Herzog von Österreich, bereits 1251 starb. Seine zweite Frau Isabella von Brienne hatte ihm Konrad IV., den in Deutschland herrschenden König, geboren. Der dritten Ehe mit der englischen Prinzessin Isabelle entstammte die Tochter Margarete, die mit dem Amrkgrafen von Meissen drei Söhne hatte. Einer dieser Söhne, Friedrich der Freibige, starb erst 1323. Manfred, der in Bologna gefangene Enzio und Friedrich von Antiochien (gest. 1256) waren illegitime Söhne.
Obwohl Konrad IV. in Deutschland noch gegen Wilhelm von Holland hätte kämpfen müssen, zog er kurz nach dem Tod seines Vaters nach Italien, um sein dortiges Erbe zu sichern, und setzte den Herzog Otto von Bayern als Reichsverweser ein. Er traf gleichzeitig mit dem aus Lyon zurückkehrenden Innozenz IV. ein. Der Papst stieß auf unerwarteten Widerstand, der von Konrad IV. nach Kräften unterstützt wurde. Der Staufer konnte im Februar 1253 Neapel einnehmen. Ein Bündnis der Kurie mit England - Belehnung des englischen Prinzen Edmund mit Sizilien gegen englische Militärhilfe - trat wegen des Unwillens der englsichen Bevölkerung nicht in kraft. Kurz vor seinem endgültigen Sieg starb Konrad IV. am 21. Mai 1254, ein halbes Jahr (7. Dezember 1254) später folgte ihm Innozenz IV. Mit dem Tod Konrads war die Einheit des Reiches zerbrochen: in Deutschland konnte sich Wilhelm von Holland durchsetzen, bevor er am 28. Januar im Kampf gegen die Friesen getötet wurde.
Sein Tod war für das Reich verhängnisvoll: die Prinzipalwähler, die sich seit der Doppelwahl von 1198 entwickelt hatten, konnten sich nicht auf einen Kandidaten einigen: eine Gruppe unter dem Erzbischof von Trier bevorzugte die Kurie und Frankreich, eine andere unter der Führung des Kölner Erzbischofs tendierte eher zu England. So wurden Richard von Cornwall und Alfons von Kastilien gewählt (der Herzog von Böhmen gab beiden Kandidaten seine Stimme). Konradin, den Sohn Konrad IV., der in der Obhut des bayerischen Herzogs war, hatte unabhängig vom Verbit des Papstes keiner der späteren Kurfürsten gewählt. Ihnen kam eine Doppelwahl bei ihren Territorialbestrebungen durchaus entgegen. Richard von Cornwall wurde in Köln gekrönt und hatte wegen der Handelsbeziehungen zu England die Mehrheit der Städte hinter sich, so daß er ein leichtes Übergewicht gegenüber Alfons von Kastilien hatte.
Währenddessen hatte Manfred den Regenten in Sizilien, den Markgrafen von Hohenburg, überspielt und schickte sich an, auch seinen Neffen Konradin auszuschalten: am 10. August 1258 ließ er sich in Palermo zum sizilischen König krönen. Von den Söhnen des Kaisers war er diesem persönlich am ähnlichsten, stützte sich politisch aber stärker auf den Adel. Nachdem Siena zu ihm übergetreten war, konnte er Florenz besiegen und dort eine ghibellinische Herrschaft etablieren. Langsam kam ganz Italien unter seine Kontrolle. Sein Gegner war weiter das Papsttum: nach dem kurzen Pontifikat Alexander IV. (bis 1261) kam mit Urban IV. (gest. 2. Oktober 1264) ein französischer Papst auf den Heiligen Stuhl, der eine Frankonisierung der Kurie einleitete und mit der Ernennung französischer Kardinäle auch die Wahl seines ebenfalls französischen Nachfolgers Clemens IV. einleitete. Unter Urban IV. wurden auch die Weichen für die Herrschaft Karls von Anjou, den Bruder Ludwig IX. von Frankreich, gestellt. Karl wurde stadtrömischer Senator und schloß nach Urbans Tod mit Clemens IV. im Mai 1265 einen Vertrag, nachdem er einen Kreuzzug gegen den „Häretiker“ Manfred führen sollte und dafür zum sizilischen König gekrönt würde. Anjou brach von Marseille aus mit einer starken Flotte auf und erwartete in Rom sein sich langsam vorkämpfendes Landheer von 40.000 Mann. Am 6. Januar 1266 ließ er sich vom Papst krönen und zog Manfred entgegen. Dieser unterschätzte Anjous Kräfte und suchte die Unterstützung der Römer. Am 26. Februar 1266 kam es zur Schlacht bei Benevent, in der Manfred starb. Nun war der Weg nach Sizilien offen, Süditalien wurde erobert und ein hartes Beamtenregime etabliert. Die Stauferanhänger und Sarazenen versuchten mehrfach, die französische Herrschaft abzuschütteln und forderten Konradin im Sommer 1266 auf, sein sizilisches Erbe anzutreten.
Konradin beschloß im Oktober 1266, dem Ruf zu folgen und brach Anfang 1267 auf. Bereits in Verona mußte er aus finanziellen Schwierigkeiten Ausrüstung verkaufen, um neue Gefolgsleute zu werben. Erst beim weiteren Vormarsch wuchs sein Heer, der stadtrömische Senator Heinrich von Kastilien trat zu ihm über und eröffnete dem Staufer damit eine neue Chance. Anjou erwartete sein Heer in einem Hintehalt und siegte in der Entscheidungsschlacht am 23. August 1248. Konradin floh nach Rom, wo wegen der Niederlage die Stimmung umgeschlagen war, so daß er weiter nach Sizilien reisen wollte, um von dort den Widerstand gegen Anjou zu formieren. Noch auf See wurde er von einem römischen Schiff gefangen und an Anjou ausgeliefert, der ihn in Neapel internierte und später hinrichten ließ (die Rechtsgrundlage für dieses Vorgehen war zweifelhaft). Mit Konradin starb der letzte politisch aktive Staufer. Nur noch in Italien gab es stärkere Reaktionen, in Deutschland hatten die politischen Kreise schon länger kein Interesse an einem starken König. Die Fürsten begannen verstärkt, ihre Territorialmacht auszubauen.