Viron kuuluessa vielä Neuvostoliittoon Rummu oli vankila ja avolouhos, jossa vangit joutuivat tekemään pakkotyötä.
Nykyään paikan tila ja ilmapiiri on täysin toisenlainen. Vankila on suljettu ja louhoksen toiminta loppunut kokonaan. Monet alueen rakennuksista ovat tulvien myötä peittyneet osittain tai kokonaan veden alle.

Rummu on kuitenkin ehkäpä yksi oudoimmista ja eksoottisimmista rannoista, mitä Euroopassa on nähty. Raunioiden kupeesta nimittäin löytyy hiekkaranta, josta on muodostunut virolaisen nuorison suosima kesäinen bilepaikka.