1864. május 14-én született Devecseren (Veszprém Vármegye). Édesapja Balogh Gábor ’48-as honvéd, ügyvéd, és több mint egy évtizedig a győri református egyház főgondnoka volt. Édesanyja, Szentmihályi Etelka az első alapító tagja a győri Protestáns Körnek, és igazi mintaképe a régimódi magyar úriasszonynak. Testvére, Dénes 1866-ban született, jogot végzett, majd ügyvédi gyakorlatot folytatott és fiatalon, 30 éves korában meghalt.

Balogh Jenő 1890-ben kötött házasságot Schnierer Valériával, és házasságukból egy fiúgyermek született, azonban felesége fiatalon elhunyt. Első felesége halála után, 1897-ben újból házasságot kötött Németh Irmával és egy újabb fiú, majd egy leánygyermeke született.

Az elemi iskola első osztályának ismereteit magántanulóként a szülői házban sajátította el. Nyolcéves korától kezdve két éven át a pápai református gimnáziumban végezte a tanulmányait, majd ezt követően 1874-től a győri Szent Benedek rendi gimnáziumban tanult, ahol 1880-ban sikeres érettségi vizsgát tett.

Jogi tanulmányait a győri jogakadémián, a budapesti egyetemen, illetve 1885–86 között a berlini egyetemen végezte. 1887-ben Budapesten jogtudományi és államtudományi doktori oklevelet szerzett. Említést érdemel, hogy anyanyelvén kívül négy idegen nyelven beszélt.

1919-ben – mint az MTA rendes tagja és mint volt miniszter – a bűnügyi embertannal összefüggő kérdések minél alaposabb tanulmányozása érdekében beiratkozott az orvosi egyetemre is, ahol két félévet sikeresen elvégzett.

Balogh Jenő 1887-től Budapesten ítélőtáblai segédfogalmazóként dolgozott, 1891-től az Igazságügyi Minisztérium törvény-előkészítő osztályán előbb titkár, később osztálytanácsos lett, majd 1897–1900 között a budapesti királyi ítélőtábla bírája lett és egyben beosztották az Igazságügyi Minisztériumba.

1910 novemberében a Vallás- és Közoktatásügyi Minisztériumban politikai államtitkárrá nevezték ki, továbbá még ebben az évben a marosújvári választókerület nemzeti munkáspárti programmal országgyűlési képviselőnek választotta. 1927-től a Református Konvent világi elnöke és ennek révén 1944-ig a felsőház tagja lett.

1913. január 4-én kinevezték igazságügy-miniszternek, amely tisztséget 1917. június 15-ig viselte. Tisza István bukása után visszavonult a politikai élettől, és a tudományos munkának szentelte életét.

A volt igazságügyi minisztert a Tanácsköztársaság idején, 1919 áprilisában letartóztatták és a gyűjtőfogházba vitték. A budapesti forradalmi törvényszék mutatókönyve szerint „politikai túszkent” állították bíróság elé, és internálásra is bejegyezték, de erre nem került sor.

Közszolgálata során a bűnvádi perrendtartás 1888-as, ún. Fabiny-féle javaslatát elkészítette, amely végül az ő szövegezésében lett az 1896. évi XXXIII. törvénycikk. Nevéhez fűződött az 1903. évi XXXVI. törvénycikk, amely a kriminológiai szemlélet hatására bevezette a feltételes elítélés intézményét, és Európában az elsők között megreformálta a fiatalkorúakra vonatkozó büntetőjogi szabályokat. Az 1908. évi XXXVI. törvénycikk, a fiatalkorúak és az alkalmi bűnelkövetőkről szóló I. büntetőnovella, a közveszélyes munkakerülők ellenében elfogadott ún. dologházi törvény, a sajtótörvény, a fiatalkorúak bíróságáról szóló törvény, a törvényhatósági választásokról szóló törvény, az esküdtszékek hatáskörének korlátozását szabályozó törvények is az ő nevéhez fűződnek. Államtitkári programjában fő célkitűzésként a polgári iskolák reformja és az egyetemi állapotok rendezése szerepelt. A polgári iskolák reformjával azt a törekvést kívánta elősegíteni, hogy a fiatalság a gazdasági pályákhoz kedvet kapjon. Az 1911. évi 12800. számú kultuszminiszteri rendelet elfogadása is az ő érdeme volt, mert ebben a büntető perjogi tudomány önállóságot kapott, és az ország összes jogi egyetemén, valamint jogakadémiáján kötelezően oktatott alapvizsga tárggyá vált.

Balogh Jenő közszolgálata, minisztersége idején tudományos tevékenysége ugyan háttérbe szorult, de élete utolsó évtizedeiben ismét módja volt elsősorban tudományos tevékenységet folytatni. Tudományos műveinek döntő többsége az 1910-es évekig, azaz a politikai pályára lépésének kezdetéig született. Munkái közül különös jelentőséggel bírnak a fiatalkorúakkal kapcsolatos művei, amelyek keretében foglalkozott a prevenció kérdésével, a bűncselekmények elkövetésének okaival, illetve azok feltárásával és elhárításával.

Pályája kezdetén, 1888-tól magántanári képesítést szerzett, majd büntető anyagi és eljárási jogból előadásokat tartott a budapesti egyetemen. 1900-ban nyilvános, rendes tanárrá neveztek ki a budapesti tudományegyetem büntetőjogi és büntető perjogi tanszékére. Az 1903/1904. tanévben még a jogi kar dékáni tisztségét is ellátta. Érdekes mozzanat, hogy gyorsíróként is működött, és okleveles gyorsíró-szaktanári képzettséggel rendelkezett. 1903-ban pedig a Budapesti Egyetemi Gyorsíró Egyesület tiszteletbeli tagjává választották.

Balogh Jenőt 1889-ben Tóth Lőrinc rendes tag ajánlotta a Magyar Tudományos Akadémia levelező tagjának. Levelező taggá választására 1901-ben került sor. Az MTA rendes tagjának 1912-ben választotta. 1913. január 13-án tartotta székfoglaló értekezését az Akadémia II. osztályának ülésén A kriminológia hatása a büntető ítélkezésre címmel. Balogh Jenő akadémiai tevékenységének meghatározó része volt főtitkársága, amelynek során szakképzettsége, az intézmény iránti lojalitása, valamint munkabírása alkalmassá tette a főtitkári tisztséggel járó, rendkívüli munkát igénylő dokumentációs és igazgatási természetű feladatok ellátására.

Tudományos tevékenységének értékelése során ki kell emelni, hogy a magyar bűnvádi eljárástudomány megteremtése tekintetében meghatározó jelentősége volt. Kodifikátorként szerepet játszott az 1896-os bűnvádi eljárási kódex és melléktörvényei megfogalmazásában, őt tekinthetjük az önálló magyar bűnvádieljárás-tudomány egyik létrehozójának és a büntető eljárásjog hivatalos tantárgy rangjára emelőjének. Nevéhez fűződik az első magyar büntető perjogi tankönyv megírása is, továbbá a bűnvádi eljárási kódex indokolásában a perjogi dogmatika kimunkálásának alapjait fektette le.

Balogh Jenő fontos szerepet játszott a magyar református egyház életében is. 1913 augusztusában a Dunántúli Református Egyházkerület tanácsbírójává választották, 1915 októberében a győri református egyházközség tiszteletbeli főgondnoka lett. 1916 októberében a Dunántúli Református Egyházkerület világi főjegyzővé, és 1921. április 20-án, Pápán a dunántúli egyházkerület főgondnokká választotta. 1917-től a református egyház zsinatának tagja volt. Ebben a minőségében kapott meghívást a felsőházba, ahol főleg népjóléti, szociális, közoktatásügyi és külügyi kérdések tárgyalásában vett részt. Az egyetemes konvent tagja, 1928 és 1933 között a zsinat világi alelnöke, 1933-tól 1951-ig a zsinat világi elnöke, majd 1951-től haláláig újra világi alelnök volt. 1948. október 7-én a zsinat világi elnökeként az egyik aláírója volt a református egyház és az állam között létrejött megállapodásnak. Több gyülekezetben volt presbiter, és tevékenyen részt vett az egyház szeretetszolgálatának irányításában is.

Számos kitüntetéssel ismerték el élete során munkáját, például a Vaskorona rend III. osztály az egyetemi tanári tevékenységért (1900), a Vaskorona rend I. osztály (1916), a Lipót-rend nagykereszt igazságügyi miniszteri munkájáért (1917), az I. osztályú Magyar Érdemkereszt (1925).

Balog Jenő akadémikus, egyetemi tanár, egykori miniszter, volt ítélőtáblai bíró 1953. február 15-én hunyt el Budapesten.

Évtizedekkel halála előtt úgy rendelkezett, hogy „temetése a legegyszerűbb, a búcsúvétel szinte néma legyen, földi porrészeit boldogult édesapja mellé temessék a bőnyi falusi temetőbe”. Ezért a magyar református egyház nagy halottjától előbb farkasréti temetőben vettek búcsút az egyház püspökei, képviselői és tisztelői, majd koporsóját Bőnyrétalapra (Győr-Moson-Sopron Vármegye) szállították, ahol végső nyughelyére helyezték.

Az utókor többször megemlékezett róla, legutóbb 2018. június 15-én egykori Ménesi úti lakóhelyén emléktáblát helyeztek el, amelyet az Igazságügyi Minisztérium államtitkára avatott fel.