Das Paulihaus entsteht direkt neben der Rindermarkthalle an der Ecke Neuer Kamp/Neuer Pferdemarkt. Dort befanden sich zuvor zwei eingeschossige Backsteingebäude aus den 1950er Jahren, die – im Gegensatz zur benachbarten Rindermarkthalle – nicht unter Denkmalschutz standen und auf Grund ihrer baulichen Substanz nicht zu erhalten waren. Das ausgedehnte Gelände des früheren Hamburger Schlachthofes erstreckte sich vom Bahnhof Sternschanze bis zum Heiligengeistfeld. Aus der Geschichte des Standortes heraus gehört das Neubaugrundstück zum Schlachthofgelände und bildete den Abschluss in Richtung Neuer Pferdemarkt.
In der benachbarten Rindermarkthalle fanden die großen Viehmärkte statt, zu denen die Tiere in Waggons mit der Bahn gebracht wurden. Im Zweiten Weltkrieg wurde das 1888 errichtete Bauwerk fast vollständig zerstört und 1950 als moderner Industriebau auf dem alten Grundriss wieder aufgebaut. Fortan diente es zusätzlich auch als Mehrzweckhalle für Großveranstaltungen unterschiedlichster Art. Im Zuge der Rationalisierung und Modernisierung des Hamburger Schlachtbetriebes fand der Viehmarkt auf dem Heiligengeistfeld 1971 jedoch sein Ende.
Für die alte Rindermarkthalle begann damit eine Zeit verschiedener Nachnutzungen. Unterschiedliche Ideen wurden hierzu diskutiert, wie z.B. eine Großveranstaltungshalle, ein FreizeitParadies oder auch die Unterbringung einer Bildungseinrichtung. Letztlich wurde die Halle jedoch zu Hamburgs größtem Selbstbedienungswarenhaus umgebaut, das dort im Mai 1973 eröffnete.
Für über drei Jahrzehnte war das Thema SBMarkt in der Rindermarkthalle nun gesetzt. Erst 2010 zog nach mehreren Betreiberwechseln der letzte SBMarkt aus. Ein neues nachhaltiges und stadtteilverträgliches Gesamtkonzept sollte unter Beteiligung der Öffentlichkeit entwickelt werden. Dabei wurde zunächst die Umgestaltung der Rindermarkthalle zu einer großen Konzerthalle favorisiert.
In diesem Kontext lobte die Stadt einen Wettbewerb aus, zu dem sechs Architekturbüros eingeladen wurden. Diese sollten jeweils Entwürfe für die Optionen Erhalt und Neubau vorlegen. In der Kategorie Erhalt wurde der Entwurf des Architekturbüros Störmer Murphy and Partners mit dem ersten Preis ausgezeichnet. Er sah neben einer entsprechenden Umgestaltung der Rindermarkthalle zu einer Music Hall bereits auch eine flankierende Bebauung mit zwei Büroriegeln an der Seite zum Heiligengeistfeld hin und auf dem Grundstück des Paulihauses, an der Straße Neuer Pferdemarkt vor.
Der Entwurf wurde aber nicht umgesetzt, die öffentliche Diskussion über die Zukunft der Rindermarkthalle verlief sehr kontrovers. Schließlich wurde 2011 von der Stadt ein langfristiger Pachtvertrag mit dem Unternehmen EDEKA abgeschlossen und die Halle in ihrer heutigen Form als moderne Markthalle mit Einzelständen in der Art eines überdachten Wochenmarktes sowie mehreren großen Einzelhandelsflächen im Erdgeschoss hergestellt. 2013 wurde sie unter Denkmalschutz gestellt, 2014 erfolgte die Wiedereröffnung. Im Obergeschoss zogen verschiedene gewerbliche Mieter sowie soziale und kulturelle Einrichtungen ein, darunter auch die MevlanaMoschee, die bereits vor dem Umbau dort Mieter war.
Das Paulihaus nimmt den Faden aus dem Siegerentwurf von Störmer Murphy and Partners wieder auf und spinnt ihn weiter. Von der Baugemeinschaft wurde hierfür 2017 ein städtebaulichhochbauliches Werkstattverfahren ausgelobt. Dessen Siegerentwurf bildet heute die Grundlage für den Neubau.