A börtönt az 1843-as nankingi szerződés után Sanghajba érkező külföldiek – britek, amerikaiak, franciák, németek – építtették az általuk lakott városrészek bűnözőinek begyűjtése céljából. Egy nagyobb büntetőintézet felállítására a külföldi imperializmus felszámolására 1899-ben kitört boxerlázadást követően fokozódott az igény, az eredetileg négyemeletes börtön így 1903-ban fogadta első lakóit.
Az épület fennállásának első negyven évében a világ legnagyobb börtöne volt. A 20. század első évtizedeiben fokozatosan kibővítették, nagysága egykoron a 70 ezer négyzetmétert is meghaladta. Benne a cellákon és az ellátóegységeken kívül egy – a második világháború előtti időszakban egyedülállónak számító – kivégzőkamra is helyet kapott, ahol az akasztottak haláluk után egy csapóajtó beiktatásával közvetlenül a börtön halottasházában végezték.
A sanghaji könyvtárban fellelhető dokumentumok szerint Tilancsiaóban elsősorban kínai férfi bűnözőket tartottak fogva, akikre britek és szikh vallású indiaiak ügyeltek. A börtön hírhedt volt szigoráról: a lakóktól folyamatosan és töretlen csendet követeltek, mindennapos volt a testi fenyítés. Jellemző volt a többszörös túlzsúfoltság is, amelynek következtében gyakran pusztított fertőző betegség az elítéltek közt.
A börtön bezárását, illetve átalakítását nem kora, hanem elsősorban fekvése miatt határozták el. A belváros északnyugati részében, a „kínai Duna-part”, a Bund északi részén fekvő építményt mostanra érte utol a sanghaji ingatlanfejlesztési láz. A fegyintézet területén céges irodák és lakóházak, kulturális létesítmények kapnak helyet a városvezetés tervei szerint. Az alternatív tervek közt egy börtönmúzeum, könyvtár, jogi oktatási intézmény felállítása is szerepel, a városi tervezési bizottság mindenesetre ígéretet tett arra, hogy történelmi jelentőségére tekintettel igyekeznek megőrizni az épület eredeti jellegét.
