Študoval na jezuitskom gymnáziu v Jágri a na univerzite v Trnave dosiahol titul bakalára.  V rokoch 1743 – 83 bol dôstojník od r. 1763 na hornom Potisí, od 1775 v Haliči. Po odchode do dôchodku v roku 1883 krátko žil v Rohove a   ako generál vo výslužbe so svojou druhou manželkou Katarínou Seleckou, manželstvo uzatvorili v roku 1785, ktorá bola dvojnásobnou vdovou, trvale usadil v Skalici, kde manželka mala veľký majetok po svojom prvom manželovi.  Tu prestaval dodnes zachovanú krásnu starobylú kúriu na námestí, urobil balkón a na priečelí štít s jeho erbom. Tu  hospodáril na svojom pozemku pri meste asi niekde v blízkosti Kalvárie, zriadil záhradu kde pestoval kvety, hyacinty, narcisy, tulipány a fialky i ovocné stromy. Urobil z naj akísi park prístupný aj verejnosti, kam hlavne počas nedieľ prichádzali ľudia, aby to obdivovali, debatovali a stretávali sa. Predpoludním potom čítal a písal vo svojej domácej knižnici. Niekedy hral na husliach a zúčastňoval sa na zábavách a poľovačkách s moravskými grófmi De Magnis v Strážnici a Hardegy v Miloticiach. Jeho druhá manželka bola nielen dobrá gazdiná, ale mala porozumenie aj pre literatúru a bola mu veľmi dobrou spoločníčkou v starobe. V Skalici mal sluhu Pavla rodáka z Lužice, ktorí zveril svoj majetok evanjelickej cirkvi 55 zlatých a hnuteľnosti predané na licitácií za 74 zlatých. Vykonávateľmi testamentu boli Gvadányi, evanjelicky farár Martin Lauček a katolícky farár Jozef Gulik. 12. mája 1796 sa zúčastnil slávnosti položenia základného kameňa evanjelického kostola a 8. októbra 1797 jeho posviacky. Udržiaval písomný kontakt aj s kalvínskym duchovným Jozefom Péczllim v Révkomárom. Politickými názormi a literárnou tvorbou bol konzervatívny, zameraný proti osvietenstvu a Francúzskej revolúcií, orientoval sa na šľachtické tradície a habsburský dvor.  Písal články, príbehy básne, romány a eposy. Jeho hlavným dielom je román „Cesta dedinského notára do Budína. Napísal epos o živote a príbehoch svojho súčasníka grófa Mórica Beňovského, svetoznámeho  cestovateľa a dobrodruha.

Je autorom epických príbehov v ľudovom štýle, korešpondoval s početným okruhom spisovateľov. Je autorom veršovaných príbehov, románov a satír, kompilátu o svetových dejinách v 9 zväzkoch. Písať začal až počas dôchodku. Jeho dielo vytvoril v rokoch 1787 – 1798 v Skalici a skladá sa zo 14 rozsiahlych, menej rozsiahlych, aj menších prác. Ako prvú knižne publikoval súbor 10 básní pod názvom Piešťanské kúpanie z roku vydané na neznámom mieste. Prvé vydanie Budínskej cesty vidieckeho notára napísal v rokoch 1787 – 88 a vydal v Prešporku-Komárne 1890. Vydal ho anonymne, súvisiacou literárnou neistotou, no obavy boli zbytočné, pretože sa z neho stal literárny bestseller a neskorším vydavateľom prinášaj aj finančné zisky. Dodnes vyšiel 15 ráz a jeho veršovaná epika bola prepracovaná aj do divadelnej adaptácie.  Po tomto románe, ktorý sa stal známym v celom Uhorsku nasledovali ďalšie satiry, ako Myšlienky o terajšej tureckej vojne, Zasadnutie krajinského snemu, Úvahy, choroba, smrť a testament dedinského notára a Cesta notára z Pelíška do pekiel, ktorého pôvod lokalizoval Gvadáni do skalického Pelíškovho mlyna, tajného zhromaždiska skalických evanjelikov v časoch útlaku. Druhé často vydávané dielo Jozefa Gvadányiho je básnická skladba napísané v 12-slabičných dvojveršiach s párovými rýmami pod názvom Životy uhorského husárskeho vojaka Pála Rontóa a Mórica Beňovského, Prešporok-Komárno 1793, dodnes asi 10 vydaní, dielo zaujme ľudovým jazykom a realizmom, zahŕňajúce kulinárske, gurmánske opisy pôžitkárskeho pitia, jedenia, hodovania a podobne. Ani jedno zo svojich diel nevydal v Škarnitzlovskej tlačiarni v Skalici, čo súviselo asi aj s tým, že boli písane v maďarčine, aj keď  dával niekomu v Skalici prepisovať svoje básne, pretože nepoznali maďarčinu narobili v nich veľa chýb a boli pre ďalšie šírenie nepoužiteľné. Okrem záhrady sprístupnil gróf Gvadáni skaličanom i taje svojej kuchyne lebo jeho osobný kuchár Sedmohradčan odovzdal Skaličankám osvedčený recept na prípravu lahodných, vláčnych trdelníkov, ktoré pochádzali z jeho otčiny, aby pomáhali šíriť povesť Skalice ako mesta výborného vína a k nemu patriacich znamenitých pochúťok. Budova, v ktorej v Skalici býval bola v roku 1981 reštaurovaná, v súčasnosti je využívaná ako mestská knižnica a potrebovala by rozsiahlu rekonštrukciu.

Svojim dielom s jadrným zmyslom pre živý hovorový ľudový jazyk a detaily dobového života v Uhorsku zanechal obraz svojej doby a je pevným bodom uhorského, maďarského  kultúrneho dedičstva.

Zomrel 21. decembra 1801 v Skalici, kde ho pochovali do krypty vo františkánskom kostole kde odpočíval pol storočia. Keď zomrel jeho syn previezli ho do Rohova, kde je pochovaný v tamojšom farskom kostole. V jeho rodnej Rudabányi mu v roku 1825 pri príležitosti 100. výročia úmrtia postavili pomník. Na kúrií v Skalici, v ktorej kde žil, je pamätná tabuľa z roku 1887, ktorú obnovili v roku 2005 a pridali k nej aj novú s textom v slovenskom jazyku.