Die Milchtrinkhalle eröffnete 1953 an der damaligen Stalinallee, welche zu dieser Zeit zum sozialistischen Prachtboulevard umgestaltet wurde. Kurz darauf in Milchbar umbenannt, war sie zunächst als ebensolche und Eiscafé konzipiert. In den 1960er Jahren erfolgte durch politisches Einwirken die Umbenennung in Café Sibylle. Der Name bezog sich auf die in der DDR populäre Frauenzeitschrift Sibylle, da im Café regelmäßig Treffen von Redakteuren und Models sowie Modenschauen stattgefunden haben sollen. Durch die Gestaltung der nun Karl-Marx-Allee genannten Straße zum sozialistischen Vorzeigeobjekt und entwickelte sich zu einem zentralen Anlaufpunkt des Viertels. Nach der Wende wurde das Café Sibylle geschlossen.
Das Café Sibylle wurde zuletzt im November 2018 mit einer offiziellen Einweihungsfeier unter neuem Betreiber wiedereröffnet, Hans Modrow, der letzte Regierungschef der DDR, bezeichnete das Café zur Eröffnung als „ein Symbol der Hauptstadt“.
