Jedna od najčuvenijih i najstarijih kafana u Bijeljini kroz dugi niz godina bila je Kafana "Zvijezda". Ubraja se u najstarije ugostiteljske objekte ove vrste za koje se zna u gradu.

Nastala je veoma davno, negdje oko 1865. godine i njen vlasnik se zvao Đoko Petrović, otac Save Petrovića, zv. Savo Zvijezda, koje je dobio kao nadimak po nazivu svoje kafane što je na istim temeljima i mjestu nastala kasnije, oko 1871. godine kad je sagrađena Srpska pravoslavna crkva Svetog Velikomučenika Georgija. Kad je kasnije vilajetska vlada Bosne i Hercegovine odobrila Srpskoj pravoslavnoj crkvenoj opštini da izgradi crkvu u centru grada, onda je uz nju, odmah poslije završetka crkvenog objekta, izgrađena i tzv. crkvena mehana. To je bilo oko 1871. godine kad je sagrađena ova crkva.

Ta nova "Zvijezda" na starim temeljima bila je važno mjesto - sastajalište viđenijih bijeljinskih trgovaca, zanatlija, veleposjednika. U njoj su se sastajali i crkveni odbornici, naročito u vrijeme pazarnih dana i crkvenih vašara ili panađura koji su održavani u gradu o Sv. Panteliji i Sv. Dimitriju, tj. na pravoslavne praznike Pantelino i Mitrovdan. U njoj su se sastajali i vjernici iz sela koji su bilo kakvim poslom dolazili u grad.

Stara "Zvijezda" imala je sprat sa "musafir odajama" gdje su odsjedali putnici namjernici. U svakoj sobi je, pored ležaja od gvozdenog kreveta, gost imao na raspolaganju: stojeći gvozdeni umivaonik, lavor, bokal s vodom za piće, kantu vode za umivanje, ručnik itd. U kafani je putnik uvijek mogao dobiti za objed kuvana jela ili nešto po narudžbi.

Nova "Zvijezda" je imala površinu od 1600 m² i imala je dvije sale, a između njih bila su harmonika vrata. U ovom objektu, kao i ranije, bilo je uvijek nekih društvenih aktivnosti, tako da se može reći da je ova kafana bila mjesto mnogih važnih događaja iz istorije grada. Tako je 1899. godine na inicijativu viđenijih građana i vjernika u njoj održana Osnivačka skupština Srpskog pjevačkog crkvenog društva „Srbadija“  u kome je prilikom osnivanja bilo oko 40 muških i ženskih glasova. Ovdje je bila i arhiva Društva "Srbadija" i biblioteka Crkvene opštine  koja je od ranije postojala.

U ovoj kafani je 1937. godine održan čuveni protestni miting protiv Konkordata, tj. sporazuma tadašnje vlade Kraljevine Jugoslavije sa Vatikanomu pogledu vjerskih prava Katoličke crkve. Protestni miting se pretvorio u krvave demonstracije kada su demonstranti polupali apoteku Ljubomira Pantića,  ministra u Vladi dr Milana Stojadinovića. Tom prilikom žandarmi su teško ranili Đoku Todorovića, sina Jovanova iz sela Puhara, koji je na putu do bolnice izdahnuo. Bilo je ranjeno više demonstranata i žandarma. Demonstracije su ugušene u krvi. Tom prilikom demolirana je i apoteka Ljubomira Pantića.

Kafana je postojala i radila skoro jedan vijek. Bila je sagrađena od cigle što je proizvedena u Devaldovoj ciglani, gdje se danas nalazi Pet jezera. Nalazila se na desnoj obali nekadašnje rječice Janjica, koja je tekla centrom grada i kraj crkve. Ona je početkom 20. vijeka zatrpana poslije okretanja njenog toka u kanal Dašnicu kod naselja Fincov salaš. (Tragovi njenog toka pronađeni su prilikom kopanja temelja za prvi Neboder i Robnu kuću „Pobjeda“. Preko te rječice, sa desne na lijevu obalu gdje je bila izgrađena crkva, bijeljinski trgovac Pero Živanović je izgradio mostić za sebe, a preko njega su prolazili kafanski gosti, vjernici i gosti prolaznici. Poslije skretanja toka Janjice korito je zatrpano, a mostić porušen. Regulacija korita Janjice je bila prva urbanistička investicija u Bijeljini.

Od 1936. godine, što je bilo rijetko u gradu, u kafani je bio novi "Filips" radio, koji je omogućavao gostima da čuju najnovije vijesti, muziku, a naročito kasnije kada je bilo "Veselo veče", pa je kafana bila puna gostiju. Kafana je dugo radila i poslije Drugog svjetskog rata, a zatim je u naletu urbanizacije porušena da bi se regulisala raskrsnica kod Crkve.