Die Ministerpräsidenten der Länder hatten nach der Erfahrung der Gleichschaltung im Dritten Reich eine starke Abneigung gegen einen politischen Zentralismus. Das amerikanische föderative System wurde allgemein favorisiert. Entsprechend positiv waren die Reaktionen, als im Februar 1946 der Auftrag zur Verfassungsgebung an die Ministerpräsidenten in der US-Zone erging. Da der amerikanische Militärgouverneur Clay eine möglichst freie Selbstbestimmung wünschte, waren die Vorgaben kaum einschränkend, lediglich demokratisch, nicht gegen die Alliierten gerichtet und bezüglich der Form eines zukünftigen Gesamtstaates neutral sollten die Verfassungen sein. Bayern nutzte diesen Spielraum besonders aus und überschritt ihn sogar mit der Erwähnung eines künftigen deutschen Bundesstaates, der „auf einem freiwilligen Zusammenschluß der deutschen Einzelstaaten beruhen [soll], deren staatsrechtliches Eigenleben zu sichern ist“ (§ 178 Bayerische Landesverfassung vom 2. Dezember 1946). Die Militärregierung bremste diese separatistischen Bestrebungen nur leicht. In Hessen fanden die Beratungen gemeinsam mit dem amerikanischen Verbindungsoffizier statt, während der zuständige Offizier in Württemberg-Baden erst nach Abschluß der Verhandlungen erschien, was als Einmischung empfunden wurde. Die Entwürfe wurden Clay im September 1946 vorgelegt, der ihre Genehmigung ohne Änderungen in Washington durchsetzen konnte. In der britischen Zone waren die Positionen der Länder viel schwächer, was unter anderem an dem mißtrauischen britischen Militärgouverneur lag. Zudem waren die endgültige Einteilung der Länder (bis Mitte 1946) und vor allem der Status des Ruhrgebiets noch strittig. Erst Ende 1947 begannen die Beratungen zu den Landesverfassungen, die teilweise erst nach Verabschiedung des Grundgesetzes abgeschlossen wurden und deshalb zentralistischer ausfielen als in Süddeutschland. Ein Grund für die wenig engagierte Haltung der Briten war sicher auch das Fehlen einer schriftlichen Vefassung in England selbst. Dagegen drang die Militärregierung in der französischen Zone stark auf die Verabschiedung von Landesverfassungen und schürte sogar den Separatismus. Bei der Vefassungsgebung in Rheinland-Pfalz sah eine Direktive aus Paris an die Militärregierung direkte Eingriffe in die Beratungen vor, im Saarland wurde sogar völkerrechtswidrig ein Sonderstatus durchgesetzt. Politiker, die den Verbleib des Saarlandes bei Deutschland forderten, wurden ausgewiesen. In der sowjetischen Zone waren zwar sehr früh Länder auf dem ehemaligen Gebiet Preußens geschaffen worden, die aber rasch alle Kompetenzen gegenüber der Zentralgewalt einbüßten. Die SED setzte mit massivem Druck ihren Verfassungsentwurf in Thüringen durch, der dann in den anderen Ländern einfach übernommen wurde. Insgesamt orientierte sich die sowjetische Zone an Stalins Verfassung von 1936 und betrachtete die Länder als unwichtig gegenüber dem Gesamtstaat. Berlin betrachtete sich als Teil Gesamtdeutschlands und als eigenes Land.
Auf der Münchner Ministerpräsidentenkonferenz vom 6. bis 8. Juni 1946 wurden die Probleme der Länder besonders deutlich. Initiiert wurde die Konferenz von der bayerischen Staatsregierung, die wegen der Entwicklungen in der britischen und sowjetischen Zone einen zentralistischen deutschen Staat befürchtete. Gleichzeitig sollte das Treffen die deutsche Einheit symbolisieren. Dieser Widerspruch wurde noch durch die unterschiedlichen Vorgaben der Alliierten verschärft: Die Ministerpräsidenten der französischen Zone waren nicht autorisiert, politische Fragen zu diskutieren, während die Vertreter der sowjetischen Zone von der SED angewiesen waren, den Tagesordnungspunkt „Bildung einer deutschen Zentralverwaltung durch Verständigung der demokratischen Parteien und Gewerkschaften zur Schaffung eines deutschen Einheitsstaates“ durchzusetzen. Dieses Vorhaben lief natürlich auch den föderalistischen Gastgebern entgegen, so daß die Ministerpräsidenten der Ostzone vorzeitig abreisten. Als Ergebnis der fortgesetzten Rumpfkonferenz traten die Ministerpräsidenten erstmals mit Forderungen an die Militärgouverneure heran.