Bänd loodi 1994. aastal Pärnus. Nende sünnipäevaks loetakse 22. detsembrit, mil sai teoks the BELKA esimene mäng üritusel "Tiliseb, tiliseb kitarrikeel" koosseisuga Marr, Belka, Maku ja Aike.
1995.aastal anti välja kassett: "Delirium Ridibundus". Hiljem on seda välja antud ka CD-formaadis. Nende poolt on välja antud ka 3 demo: "Kõik on viimsepeal "(1998), "My weakness"(2001), "Valehambad"(2006) mil liitus bändiga kitarrist Rennu.
"Mul on veel veini" ja "Kõhn pihlak" on koha leidnud singlil mis kannab nime "Meid Toetab Laev"(2003).
The Belka hiilgeajaks loetakse aastaid 1994-1997 aastat.
2004 a. detsembris pidas Eesti alternatiivmuusika kuulajaskond Pärnus Nooruse majas sõnalis-muusikalise kollektiivi the Belka 10-aasta juubelit, mille puhul salvestati kõigi sellel kontserdil osalenud bändidega tribuut plaat "Jube Juubel"(2004).
Tegelikult leidis bänd ennast taas plaadil "Mehega II Planeedilt"(2005). Sellest ajast saab neid nimetada juba muusikuteks.
21-juunil 2007 salvestati fännide pealekäimisel kaunis suvelugu "Castor Fiber".
