Thurzó Gábor A Moll lányok című ifjúsági regénye olyannyira visszaadja a Szarvas tér hangulatát, hogy a műben szereplő házról már-már azt hisszük, a valóságban is létezett. Pedig csak képzeletbeli épületről van szó, a Szarvas téren ugyanis csak egy ház áll. A tér is erről, helyesebben a kapu feletti szarvasdomborműről kapta a nevét. A kutatások szerint az épületet a XVIII. században emelték, bár a telken már 1695-ben állt egy ingatlan, amely a tabáni tűzvészben elpusztult.
Pereházy Károly szerint a Tabánban ez a „legparádésabb” ház. A sarkán lévő Arany Szarvas Kávéház a XIX. század irodalmi életének egyik budai központja volt. Legalább olyan jelentős szerepet töltött be, mint a Pilvax Pesten. Azzal a különbséggel, hogy a szerb íróknak is „menedéket” nyújtott. Sima Milutinovics Sarajlija, Jovan Pacsics és Jakov Igjnatovics szerb írók abban az időben Budán éltek, és a kávéház rendszeres vendégei voltak.
Szemközt lakott Virág Benedek, így nyilvánvaló, hogy alkalmanként ő is átlátogatott írótársaihoz, és gyakran fordult meg ott Czuczor Gergely. A legenda szerint az 1838-as nagy árvíz idején kisebb botrány tört ki akkor, amikor a kávéház tulajdonosa féladag kávét szolgált fel Barabás Miklós festőművésznek. „Pesten a szükség kényszerítette a kávésokat arra, hogy árvíz idején csak fél porciókat adjanak… Maga ellen vét minden pesti ember, ha a kárt nem vallott budai féltől fele adagot is elfogad” – mondta a sértődött művész.
A közhiedelem szerint 1849-ben Nagy Sándor a Szarvasban rendezte be főhadiszállását, és innen irányította a Vár visszafoglalásának ütközeteit is. A történetírás szerint azonban a Naphegy mögül vezette hadtestét. Katonái a tabáni kapu felől támadó Aulich Lajos tábornok magyar hadtestét megelőzve rövid idő alatt felértek a Várba, valószínűleg innen ered a tévedés.
Egyes történetírók szerint a házban volt Mátyás király vadászlaka is. Itt már alapvető tévedésről lehet szó, az ingatlant ugyanis a XVIII. században alakították ki. Néhány tabáni ház alagutat rejtett, amelyek végét általában nem találták meg. A Szarvas-házról szóló történetek közt olyat is találunk, amely szerint az épületből egészen a Várig el lehetett jutni.
Robbie Keane Lisztes állapotáról beszélt, majd riválisa nem kegyelmezett a játékosnak
