Rolla János 1944-ben született Kőtelken. 1957-től 1962-ig a Bartók Konzervatóriumban Zipernovszky Mária növendéke volt, majd 1962 és 1968 között a Zeneakadémián tanult Kovács Dénes osztályában. A Sándor Frigyes által 1963-ban létrehozott Liszt Ferenc Kamarazenekar egyik alapítótagja volt, több mint 50 évig koncertmesterként, 1979-től visszavonulásáig művészeti vezetőként. Emellett 1967 és 1974 között a Magyar Rádió és Televízió Szimfonikus Zenekarában is játszott. Nevéhez fűződik a Zempléni Művészeti Napok létrehozása. Nevét leginkább a Liszt Ferenc Kamarazenekar élén művészeti vezetőként eltöltött csaknem négy évtized tette ismertté, az együttestől 2016-ban vált meg. 2007-ben tiszteletbeli tanári címet kapott a Zeneakadémiától, majd 2008-tól haláláig tanított ott, 2008 és 2011 között a Kamarazene Tanszéket vezette.
A Liszt Ferenc Kamarazenekarral több mint 200 hanglemezt készített, az 1970-es, 1980-as években nemzetközi hírnévre tettek szert, olyan művészek szerepeltek velük hangversenyeken, készítettek velük hangfelvételeket, mint Kocsis Zoltán, Ránki Dezső, Schiff András, Maurice André, Jean-Pierre Rampal, Alexander Schneider, Henryk Szeryng vagy Vásáry Tamás. Mindmáig emlékezetesek Schiff Andrással és Banda Edével adott hangversenyei a hetvenes években.
Nyitott volt más zenei világokra is, zenekarával szerepelt, készített lemezt Vukán György triójával is, és több koncerten is játszottak együtt a Budapest Klezmer Banddel.
Lapunknak csaknem négy évvel ezelőtt adott interjút, ebben mondta a következőket: „Sajnos az a személytelenség, ami a digitális technikával megvalósítható, lásd kottaolvasó programok, beszivárgott a hangversenytermekbe is, a kotta nagyon precíz lejátszására való törekvés közben odavész az egyediség. Ellene vagyok az ilyen uniformizált játéknak, amit a zenetudomány is mintegy megkövetel akkor, amikor a lehető leghitelesebb kottakép megalkotására törekszik, amit azután számon lehet kérni az előadókon. Annak idején, ha bekapcsoltam a rádiót, azonnal meg tudtam mondani ki, hegedül: Heifetz, Menuhin, vagy Ojsztrah, akik igazán nagy egyéniségek voltak. Ám ez az élmény megszűnt. Sokan választják ma ezt a szakmát, de a pódiumra nagyon kevés ember termett.” Életműve azt bizonyítja, ő teljes mértékben oda való volt.