Az 1848–1849. évi forradalom és szabadságharc idején – belügyminisztériumi fogalmazóként, majd a Közlöny című hivatalos lap szerkesztőségi munkatársaként – végig Szemere mellett maradt, s csupán Aradon váltak el útjaik. A forradalom és szabadságharc leverését követően 1849 augusztusától 1850 februárjáig szüleinél rejtőzött, majd Pestre utazott és újságíróként tevékenykedett. Először a Pesti Naplónál dolgozott, ahol írásai Bátor Miklós álnéven jelentek meg. Később a Hölgyfutár munkatársa lett. Ekkoriban ismerkedett meg Arany Jánossal, akivel életre szóló barátságot kötött.

Lévay József 1852 júliusában visszatért Miskolcra és egykori gimnáziumában – Arany Jánospéldáját követve – magyar–latin szakos tanárként helyezkedett el. Ő volt az első, aki Kazinczy Ferenc munkásságával kapcsolatban a „nemzeti hála” kinyilvánítására hívta fel az ország figyelmét. Ebben az időszakban kötött barátságot Tompa Mihállyal, Erdélyi Jánossal és Kazinczy Gáborral.

Vármegyei pályafutása 1860-ban kezdődött, amikor Borsod vármegye jegyzői teendőivel bízták meg. Tanári munkáját 1865-ig – főispáni főjegyzővé történő kinevezéséig – még párhuzamosan folytatta. A főjegyzői hivatalt Vay Miklós báró felkérésére vállalta el és 1894 decemberéig töltötte be, amikor is a vármegye alispánjává választották. Munkásságát a vármegyei díszközgyűlés hivatalának végeztével így méltatta: „Vármegyénk közéletében mindig vezérszerepet vitt; amellett, hogy jeles stiliszta, kiváló szónok is, mind a zöld asztal mellett, mind ünnepi alkalmakkor. Magánéletében a nagy műveltség, szerénység, vidám szellem és erő, meggyőződés jellemzi.”

A vármegyei főhivatalnok társadalmi státusza a legteljesebb harmóniában kapcsolódott össze a koszorús költő irodalmi státuszával. 1896 elején vonult nyugalomba. Ezt követő életéről ekképp írt: „Így élem a nyugalom napjait most már a hivatalos élettől távol itt Miskolcon, szerény, de nekem eléggé kényelmes körülmények között. Olykor kirándulok Szent Péterre s egy-két napot szentelek a kegyeletnek a Szüleimtől örökölt kis fészekben, ahol velük együtt életemnek oly sok boldog óráját élveztem. […] Feldobott kő voltam, mely végre is oda esett vissza, ahonnan régen feldobták.” A vármegyei közéletben élete végéig aktívan vett részt. Fontos és vezető tisztségeket töltött be a helyi társaskörökben, egyesületekben (így például a Miskolczi Nemzeti Casino, a Miskolczi-Polgár Egylet, a Miskolczi Polgári-Honvéd Lövész-egylet, a Borsod-Miskolczi Közművelődési és Muzeum-Egyesület). A református egyház működésében is fontos szerepet játszott. 1917-ben egyházkerületi világi tanácsbírónak választották meg.

A Kisfaludy Társaság 1862-ben választotta tagjai sorába. A Magyar Tudományos Akadémia 1863. január 12-én tartott közgyűlésén a nyelv- és széptudományi osztály levelező tagjává választotta. Ajánlói között találjuk Arany Jánost, Ballagi Mórt, Hunfalvy Pált, Kemény Zsigmondot és Toldy Ferencet. A javaslatban „költői munkásság[a] s részint tanusított aestheticai elméleti képzettség[e]” került kiemelésre. A Magyar Tudományos Akadémia Gyulai Pál és Vadnai Károly ajánlása alapján 1883. május 17-én tartott közgyűlésén rendes tagjai sorába választotta. Gyulai Pál méltatása szerint „mint költő és stilista kitűnő helyet foglal el irodalmunkban. Lyrai költeményei […] a legnemesebb érzések kifejezései, tiszta szabatos formában. Élő költőink között alig van valaki, a kinek annyira hatalmában volna a nyelv és rhythmus ereje. Mint műfordító is kitűnő […]. Nyolcvanadik születésnapja alkalmából szintén Gyulai Pál javaslatára „a jeles költőt és műfordítót” a Magyar Tudományos Akadémia 1906. március 22-én tartott közgyűlésén tiszteleti tagjának is megválasztotta.

Már életében számos elismerésben részesült. 1890-ben aranytollal köszöntötték főjegyzősége 25. évfordulóján. 1894-ben az uralkodó III. osztályú vaskoronarenddel tüntette ki. 1910-ben Miskolc város díszpolgárává választották. Borsod vármegye megfestette egész alakos portréját, melyet a tanácstermében helyeztek el. 1912-ben a Budapesti Tudományegyetem tiszteletbeli (honoris causa) doktorává avatták. Még életében, 1913-ban Miskolcon utcát neveztek el róla. Kétszer is elnyerte a Magyar Tudományos Akadémia nagyjutalmát. Az MTA Nagyjutalmát első ízben 1886-ban, Szász Károllyal megosztva nyerte el. 1914-ben, ezúttal életműve elismeréseként, másodszor is neki ítélte a Magyar Tudományos Akadémia az MTA Nagyjutalmát.

Korának elismert és népszerű irodalmára volt. Versesköteteit fővárosi kiadók gondozták, költeményei, műfordításai, értekezései és könyvbírálatai országos publicitást biztosító periodikákban jelentek meg. Az utókor ugyanakkor némileg elfeledte. Költészetére kezdetben a keresetlen egyszerűség volt a jellemző, a vidéki élet örömeit igyekezett bemutatni. A kordivatot nem követte, a magyaros (rímes, pergő ritmusú, ütemhangsúlyos) versformákat használta. Egy korabeli méltatás szerint „[k]ölteményeinek szépségeit: az érzések őszintesége, a kedély meleg fénye, nagy formatisztaság, és folyékony, erőteljes tiszta nyelv képezik”. Az ún. népi-nemzeti irányhoz tartozott, amelynek vezéregyéniségeihez (Arany, Tompa, Gyulai) szoros barátság fűzte. Korai, többnyire szentimentális verseinek másik gyakori témája a hazafiság volt. 1848 és 1849 során verseivel a szabadságharc mellett buzdított. Költeményei többnyire elégikus dalok voltak, amelyeknek a nyelvezetét és képeit a későbbiekben a népiességtől való fokozatos elszakadás és egy új stilizált (Biedermeier hangulatú) kifejezésmód kialakítása jellemezte. Szerelmi dalai jobbára már emlékké vált érzelmeket idéztek fel. Öregkori verseiben az impresszionizmus hatása is érezhető. Műfordítóként többek között Robert Burns, George Byron, Heinrich Heine verseit, Seneca műveit, Molière darabjait, Shakespeare számos vígjátékát és drámáját (például A makrancos hölgy, Vízkereszt vagy amit akartok, IV. Henrik egyes részeit) fordította magyarra. Költői és műfordítói munkája mellett jónéhány kitűnő arcképtanulmány elkészítése (például Arany Jánosról, Szemere Bertalanról, Tompa Mihályról és Deák Ferencről) is munkásságának részét képezi.

Lévay József néhány hónappal kilencvenharmadik életévének betöltése előtt, 1918. július 4-én hunyt el Miskolcon. Végakaratának megfelelően a sajószentpéteri református temetőben, szülei mellett helyezték örök nyugalomba. 1923-ban az ő nevét vette fel Miskolc reprezentatív kulturális egyesülete (Lévay József Közművelődési Egyesület). 1934-ben Miskolcon szobrot állítottak emlékének. A miskolci Lévay kultusznak adózva, Balázs Győző javaslatára egykori gimnáziumi alma materét 1936-ban róla nevezték el. Hagyatékát a miskolci Herman Ottó Múzeum őrzi.