1981 m. folkloro ansamblį įkūrė ir beveik dešimtmetį jam vadovavo A. Svidinskas (1989–1990 m. kartu su Giedriumi Viduoliu). 30 metų (nuo 1991 m.) šiam kolektyvui vadovauja Nida Lungienė kartu su instrumentinės grupės vadovais: Giedriumi Viduoliu 1991–1997 m. ir 2009–2016 m. bei Egidijumi Kundrotu – 1997–2007 m. Nuo 2017 m. kapelai talkina Vytautas Statulevičius.
Kolektyvo repertuare – Rokiškio ir kitų Aukštaitijos rajonų dainos, šokiai, rateliai, sutartinės, instrumentinė muzika. Svarbus dėmesys skiriamas sutartinėms, kurias ansambliečiai gieda, šoka, skudučiuoja, pučia ragais, skambina penkiastygėmis kanklėmis. Didelė repertuaro dalis užrašyta pačių ansambliečių etnoekspedicijų metu.
Ansamblis yra įvairių renginių Rokiškyje organizatorius ir dalyvis: „Unt tevelia dvara“ (1989–1991), Amatų, folkloro ir teatrų „Tevučia pakluonej“ (1992–1997) ir rajono Armonikierių švenčių (1992–1995); etnovakarų (1992–1994 m., 2000–2020 m.) bei kalendorinių švenčių (Rasų (1990–1996), Jorės (1985–1992), Užgavėnių (nuo 1990 m.) ir kt.); Lietuvos regionų šventės „Kur aisiu aisiu“ (2004); Lietuvos ir Latvijos Sėlijos šventės „Kur aisiu aisiu“ (2005) ir kt. 2005 m. dalyvavo „Keptinio alaus tradicijos gaivinimo“ projekte (projekto autorė Nida Lungienė), 2013 m. Tarmių metams skirtuose renginiuose, 2015 m. – Baltų vienybės dienos šventėje „Tevučia pakluonej“, skirtoje Etnografinių regionų metams. O koncertus-vakarones įvairiose Lietuvos vietovėse sunku ir besuskaičiuoti.
Kolektyvo publikacijos: 1992 m. garsajuostė „Gastauta“, 2004 m. – kompaktinė garso plokštelė „Folkloro ansamblis „Gastauta“ (CD) ir 2016 m. – „Gastauta“ (CD), 2017 m. – kompaktinė vaizdo plokštelė „Gastauta Gastautėla“ (DVD).
LRT filmuotasi: laidai apie „Gastautą" (1989 m.), o laidoje „Etnokultūros ratas“ sukurtas filmas „Viena diena su „Gastauta“, skirtas 20-mečio progai, laidoje „Duokim garo“ (2002, 2015 ir 2021 m. 40-mečio proga).
Nuo 1998 metų kolektyvas dalyvauja respublikinių dainų švenčių folkloro dienų programose. Labiausiai įsimintina buvo 2019 m. – Lietuvos šimtmečio dainų šventės „Vardan tos...“ Folkloro dienos „Didžių žmonių žemė“ folkloro ansamblio „Gastauta“ programa „Aš užaugau raškožėly“ apie Pandėlio krašto, Abelių kaimo dainininką Juozą Bagužį (1915–1998). Surinkta ekspedicinė medžiaga apie jį ir kitus Abelių kaimo dainininkus buvo sutvarkyta, papildyta naujais aprašymais, nuotraukomis, dainų sąsiuvinių kopijomis ir pristatyta Lietuvos nacionaliniam kultūros centrui ir Lietuvos istorijos institutui.
2020 m. svarbus ansambliui yra Rasos šventės „Oi ta ta, kupole graži“ (1995 m. birželio 22 d. filmuota G. Dainio (a. a.) Trumponių kaime, Aleksandravėlėje, Rokiškio r. prie Skaistinės ežero) filmo parengimas (su tarmiškais komentarais) ir paskelbimas „You Tube“ kanale.
„Gastauta“ yra įvairių etninių renginių Lietuvoje dalyvė.
Koncertuota ir tarptautiniuose folkloro festivaliuose užsienio šalyse: Latvijoje (1985, 2003–2019); Lenkijoje (1987, 2006–2007 m.); Baltarusijoje (1991, 2014); Vokietijoje (1994–1996); Anglijoje (1996); Prancūzijoje (1997); Bulgarijoje (2006), Ispanijoje (2009), Gruzijoje (2011), Ukrainoje (1992, 2018); Juodkalnijoje (2019). Taip pat dalyvavo tarptautiniame folkloro festivalyje „Baltica" Vilniuje (1988, 1993, 1996, 2008) bei Latvijoje (2003).
2006 m. folkloro ansambliui „Gastauta“, jo vadovams Nidai Lungienei ir Egidijui Kundrotui buvo įteikta LR Kultūros ministerijos, LLKC ir Dainų švenčių fondo nominacija „Geriausiam suaugusiųjų folkloro kolektyvui ir vadovams „Aukso paukštė-2005“.
Kolektyvas daug metų yra vertinamas 1-ąja (aukščiausia) kategorija.
40-ies metų jubiliejų mininčio folkloro ansamblio „Gastauta" muzika LRT laidoje „Duokim garo!“
Folkloro ansamblis „Gastauta“ 2023 m. koncertavo 13 kartų.
Birželio 16–18 dienomis lankytasi Estijoje: užmegzti kultūriniai ryšiai su Estijos lietuvių bendruomene (pirmininkė Rita Kuzminienė), pristatytas Rokiškio kraštas ir jo kulinarinis paveldas, koncertuota kartu su Talino grupe „Kannelkond“ (vadovė Tuulie Kann) ir Aruküla vyru grupe „LüüTürr“ Pikavere dvare (Talino apskr.).
Kovo 26 dieną dalyvauta LRT laidoje „Duokim garo“ laidoje apie Rokiškio rajoną;
Surengti 5 kolektyvo pasirodymai išvykose:
02–16 d. – koncertas, skirtas Vasario 16-ajai, Žiobiškyje;
03.11 d. – koncertas, skirtas Kovo 11-ajai, Pandėlyje;
03.26 d. – dalyvavimas LRT laidoje „Duokim garo“;
06.16 d. – koncertas-susitikimas su Talino folkloro kolektyvais Pikavere (Estijoje);
09.09 d. – dalyvavimas folkloro festivalyje „Į vidurio Lietuvą suėję“ Kėdainiuose.
8 kolektyvo pasirodymai Rokiškyje:
02-19 d. – dalyvavimas „Užgavėnių šventėje“;
02.24 d. – Ukrainos palaikymo akcijoje;
05.04 d. – koncertas-vakaronė, skirta J.Tūbelio progimnazijos 40-mečiui;
06.23 d. – dalyvavimas „Jonvakaryje“ prie Rokiškio ežero;
09.23 d. – organizavimas ir dalyvavimas akcijoje „Visa Lietuva šoka-2023“;
11.11 d. – parengtos programos „Ričiau rotų, datūto“ pristatymas Dainų šventės Rokiškio r. apžiūroje;
11.25 d. – dalyvavimas folkloro šventėje „Aušta aušrela“, skirtoje Aukštaitijos metams;
12.16 d. – sutartinių giedotojų grupės dalyvavimas P. Damijonaitienės juostų parodos atidaryme Rokiškio krašto muziejuje.