Základnú školu vychodil v rodisku a v r. 1935-1943 gymnázium v Michalovciach. V školskom roku 1943/44 vstúpil do seminára a začal študovať bohoslovie na Rímskokatolíckej cyrilometodskej bohosloveckém fakulte Slovenskej univerzity v Bratislave; v jeseni 1945 ho košický biskup Jozef Čársky poslal na štúdiá do Ríma. V Pápežskom kolégiu sv. Jána Nepomuckého dostal ďalšiu kňazskú formáciu a študoval na Pápežskej lateránskej univerzite v Ríme. Sviatosť kňazstva prijal 12.3.1949 v Ríme.

Po roku 1948 sa nemohol vrátiť na Slovensko. V rokoch 1950-1965 pôsobil ako vicerektor a ekonóm Pápežského kolégia sv. Jána Nepomuckého v Ríme a venoval sa štúdiu odborných teologických disciplín na Pápežskej lateránskej i na Pápežskej gregoriánskej univerzite. Roku 1951 obhájil dizertačnú prácu De inhabitatione Spiritus Sancti secundum B. Petrum de Tarantasia (O inhabitácii Ducha Svätého podľa bl. Petra Tarantasia) na Pápežskej lateránskej univerzite a dosiahol doktorát teológie. Roku 1956 obhájil dizertačnú prácu Il rapporto di lavoro in Cecoslovacchia negli anni 1945-1954 (Pracovné vzťahy v Československu 1945-1954) na Pápežskej gregoriánskej univerzite a dosiahol doktorát zo sociológie. Roku 1961 obhájil dizertačnú prácu Die Errichtung der Diözesen Zips, Neusohl und Rosenau (1776) und das königliche Patronatsrecht in Ungarn (Zriadenie biskupstiev Spiš, Banská Bystrica a Rožňava [1776] a kráľovské patronátne právo v Uhorsku) na Pápežskej lateránskej univerzite a dosiahol doktorát práv. V školskom roku 1955/56 prednášal na medzinárodnej univerzite sociálnych štúdií Pro Deo v Ríme. Roku 1958 mu pápež Ján XXIII. Udelil titul pápežského komorníka. Na Vianoce 1959 bol signatárom iniciatívy na vybudovanie Slovenského ústavu sv. Cyrila a Metoda v Ríme, ustanovizne na výchovu kňazského dorastu, zároveň i strediska náboženského a kultúrneho života Slovákov v zahraničí. V rokoch 1960-1963 vložil všetok svoj voľný čas a energiu do práce na vybudovaní tejto ustanovizne, pričom bolo treba prekonať obrovské námietky zo strany českých katolíckych kruhov a veľké prekážky politické, administratívne i finančné. Keď sa roku 1961 uvoľnilo dôležité miesto v kuriálnom úrade Kongregácie pre náuku viery, výberová komisia ho uznala za najvhodnejšieho kandidáta na túto funkciu. Tak vstúpil do arény riadenia duchovných i administratívnych záležitostí Katolíckej cirkvi. Počas Druhého vatikánskeho koncilu (1962-1965) pracoval ako odborný poradca pre vieroučné otázky. Roku 1966 sa stal vedúcim Doktrinálneho oddelenia Kongregácie pre náuku viery, v októbri 1967 sekretárom prvej Synody biskupov o miešaných manželstvách v Ríme. V rokoch 1968-1970 pôsobil ako sekretár Kardinálskej komisie pre miešané manželstvá a stal sa členom Pápežskej komisie pre rodinu. Zastupoval Katolícku cirkev na ekumenických stretnutiach o teológii manželstva a o miešaných manželstvách v Ríme (1970), Štrasburgu (1971), Madride (1972), Bazileji (1973) a inde. Roku 1969 reprezentoval Katolícku cirkev na ekumenickom týždni o teológii rozvoja v Cartigny (Švajčiarsko). V novembri 1972 bol členom úradnej delegácie Svätej stolice pri návšteve Svetovej rady cirkví a Luteránskej svetovej federácie v Ženeve. Okrem toho sa ako oficiálny delegát zúčastňoval na mnohých iných medzinárodných. a ekumenických stretnutiach, napríklad na oblastných stretnutiach predstaviteľov biskupských konferencií Ázie (Manila 1970), Oceánie (Sydney 1973), Latinskej Ameriky (Puebla 1979) atď. Pápež Pavol VI. ho 17.6.1970 vymenoval za pápežského preláta, 21.12.1974 za podtajomníka Kongregácie pre biskupov. Pápež Ján Pavol II. ho 12.7.1979 vymenoval za titulárneho arcibiskupa a generálneho tajomníka Synody biskupov (patrila k najdôležitejším a najnáročnejším funkciám v pokoncilovej Cirkvi), čím sa stal jedným z najzaneprázdnenejších pracovníkov vyššej cirkevnej hierarchie; bolo totiž potrebné prebudovať cirkevnú štruktúru v duchu Druhého vatikánskeho koncilu a uvádzať do života jeho uznesenia. Biskupskú vysviacku prijal 15.9.1979 v Ríme, v historickej Sixtínskej kaplnke. Obrad vysviacky vykonal sám pápež ako priateľské gesto voči novému biskupovi aj ako prejav úcty a obdivu k trpiacej Cirkvi na Slovensku. Dňa 18.10.1979 sa stal členom Pápežskej komisie na interpretáciu dekrétov Druhého vatikánskeho koncilu. Ako generálny tajomník celosvetovej Synody biskupov sa musel zaoberať množstvom rôznorodých problémov Katolíckej cirkvi, ktorá v pokoncilovom období prekonávala mnohé krízy. Niektorí biskupi a biskupské konferencie (napríklad v Holandsku) si koncilové uznesenia vykladali liberálne a ich reformné novoty sa dostávali do rozporu s tradičným učením Cirkvi. Inde sa zas prejavovali konzervatívne tendencie a neochota meniť tradičné formy náboženskej úcty a obradov. Pri hľadaní správnej cesty sa prejavil ako dôsledný, svedomitý a usilovný pracovník, ktorý si svojím vystupovaním a konaním získaval obdiv i priateľstvá na celom svete.

Dňa 24.4.1985 ho pápež Ján Pavol II. vymenoval za proprefekta Kongregácie pre evanjelizáciu národov a na generálnej audiencii súčasne oznámil, že na Turíce vymenuje 28 nových kardinálov, medzi nimi aj arcibiskupa Jozefa Tomku. Tak sa 25.5.1985 na turíčnom konzistóriu stal členom kardinálskeho zboru, prefektom Kongregácie pre evanjelizáciu národov a kancelárom Pápežskej Urbanovej univerzity. Záverečná časť konzistória, odovzdávanie "kardinálskych klobúkov" novým kardinálom, sa konala po prvý raz v dejinách verejne na Svätopeterskom námestí. Viaceré časopisy vtedy poukazovali na to, že je to po prvý raz v dejinách, čo Slovák stojí na čele jednej rímskej kongregácie. Ani kardinálska hodnosť neovplyvnila jeho pracovný štýl a vystupovanie. Neúradoval iba v kanceláriách, ale oboznamoval sa so situáciou na mieste, čo znamenalo časté, dlhé a namáhavé cesty. Na Slovensko mohol prísť až roku 1968, ale v čase tzv. "normalizácie" jeho nedobrovoľné vyhnanstvo pokračovalo. Znovu sa objavil na Slovensku roku 1989 na vysviacke nového spišského biskupa, čo bolo symptómom meniaceho sa postoja štátu k Cirkvi. Jeho vystúpenie na zasadnutí pléna Slovenskej národnej rady 21.4.1991 bolo historickou udalosťou, slovenská verejnosť mala po prvý raz možnosť vidieť slovenského kardinála v jeho dôstojnosti, veľkosti a starostlivosti o osud národa v krízovej situácii postkomunistického obdobia. Vo svojom prejave zdôraznil návrat ku koreňom našej kresťanskej cyrilo-metodskej minulosti. Po pôsobení na čele významnej Kongregácie pre evanjelizáciu národov, prevzal dve dôležité funkcie na vatikánskom dvore: pápež ho povolal do sedemčlennej komisie kardinálov pôsobiacej vo Vatikáne a súčasne sa stal členom dozornej rady Vatikánskej banky IOR. V oboch prípadoch nahradil talianskeho kardinála Carla Furna, ktorý sa po dosiahnutí osemdesiatich rokov vzdal svojich funkcií. V súčasnosti je predsedom Pápežského komitátu pre medzinárodné eucharistické kongresy. Vo funkcii pápežského legáta predsedal 48. medzinárodnému eucharistickému kongresu v mexickej Guadalajare v októbri 2004.

Akademické ocenenia

Vo viacerých krajinách ho poctili čestným doktorátom: Callumet College, Hamond, Indiana (USA); Fu Jen University, Tchaj-pej (Taiwan); Teologická fakulta Univerzity Komenského, Bratislava; Teologická fakulta Warszawa; St. Vincent Academy, Latrobe, Por. (USA); Universidad de Estado, Buenos Aires (Argentína); Universidad Catolica, Buenos Aires (Argentína). Ďalšie pocty: Grande-Croix de l Ordre de la Couronne de Chene (Luxembourg 1988); Rad Bieleho dvojkríža l. triedy Slovenskej republiky (Bratislava 1995); Grand Cruz de la Orden del Libertador San Martín, Argentína (Buenos Aires 1999). Za prínos v rozvoji kultúry, vzdelania a humanity na Slovensku mu 11. decembra 2001 čestný doktorát udelila Lekárska fakulta Univerzity Pavla Jozefa Šafárika v Košiciach. V roku 2002 mu prezident SR Rudolf Schuster udelil najvyššie štátne vyznamenanie - Rad Bieleho dvojkríža 1. stupňa. Pri príležitosti jeho životného jubilea mu Trnavská univerzita udelila čestný doktorát. V apríli 2006 mu bol udelený titul Doctor honoris causa Katolíckou univerzitou.
V roku 1998 mu Nadácia Matice Slovenskej udelila cenu Jozefa Škultétyho za ochranu ľudských práv.

tvorba

Literárna tvorba kardinála

Popri svojej mnohostrannej činnosti a cestách stihol napísať niekoľko pozoruhodných kníh: o koncilovej konštitúcii Lumen gentium rozpravu Svetlo národov (Rím 1972); pastorálnu konštitúciu Gaudium et spes komentoval a vysvetlil v knihe Kresťan a svet (Rím 1974). Vydal knihu náboženských úvah Blaženstvá (Rím 1973) a k cyrilo-metodskému jubileu vyšla jeho štúdia Význam sv. Cyrila a Metoda v slovenskom katolicizme a v slovenských dejinách (Rím 1984), ktorú vydal aj po anglicky. Rozpravami Ekumenizmus a Kristus včera i dnes prispel do zborníka Otázky dneška (Rím 1976). O práci a o cieľoch Biskupskej synody napísal monografiu Il Sinodo dei Vescovi (Synoda biskupov: podstata, metóda a perspektívy, Rím 1985). Poznatky a skúsenosti z dlhoročného pôsobenia na čele Kongregácie pre evanjelizáciu národov zhrnul v knihe La Missione verso il Terzo millennio (Rím – Bologna 1998), ktorá vyšla aj po slovensky (Misie do tretieho tisícročia, Bratislava 2000). Po slovensky vyšli jeho spomienky na návštevy misijných území Na misijných cestách (Rím 1989, Trnava 1991), výbery jeho príspevkov, rozpráv a prejavov Budovať Cirkev (Trnava 1994), Odkaz slovenskému národu a spoločenstvám (Bratislava 1991), ako aj preklady jeho kníh Zriadenie Spišskej, Banskobystrickej a Rožňavskej diecézy a kráľovské patronátne právo v Uhorsku (Spišská Kapitula-Spišské Podhradie 1994). V roku 2003 vydal spolok sv. Vojtecha publikáciu Na misijných cestách II.