1959. január 25-én alig 99 nap telt el XXIII. János megválasztása óta. a pápai trónon. Azon a napon az istentiszteletek után a Szent Bazilikában. Pál, akihez az akkor Rómában jelen lévő hetven bíborost külön meghívták, a pápa bejelentette, hogy a közeljövőben Rómában római zsinatot és általános tanácsot hív össze. A római zsinatnak az olasz egyház helyzetét kellett megvitatnia. Ami az általános tanácsot illeti, a pápa azt a reményét fejezte ki, hogy minden "egyház, amely szétvált, hogy megpróbálja újra összeállni", részt vegyen abban. A tanács majdnem 3 évig készült. A Tanács ülésére 70 dokumentum készült. Ennyi idő alatt XXIII. fáradhatatlanul dolgozott. Három év alatt még nagyobb súlyt kapott, makacsabbnak, betegebbnek tűnt, de barátságos mosoly nem tűnt el az arcáról. A pápa tudta, hogy halálosan beteg. Az orvosok gyomorrákot diagnosztizáltak nála, de nem volt hajlandó megműteni. Az ő korában a művelet nagy kockázattal járt, és ki akarta állni a tanács megnyitását.
Végül eljött 1962 szeptembere, amelyre annyira várt. Újságírók, rádió- és televízió-kommentátorok, turisták és természetesen a Tanács atyái - bíborosok, pátriárkák, érsekek, püspökök, vallási rendek tábornokai - és díszvendégek, más egyházak és hitek képviselői - gyűltek össze Rómában a világ minden tájáról. . Szeptember 11-én, reggel nyolc órakor a megvilágított bazilikában Szent. Péter megnyitotta a Vatikáni II. Zsinat első ülését. 2692 egyházi hierarcha ült a lelátón mitrákban és fényűző középkori köntösben. Európát a Tanács 849 atyja képviselte, Amerika - Észak és Dél 932, Ázsia 256, Afrika 250 és Óceánia 70. Az első ülés ülése 1962. december 8-án ért véget. Az ülés végén XXIII János szólalt fel. abban a reményben, hogy a Tanács a következő évben befejezi tanácskozását. A Tanács atyái ismerték az egészségét, és rossz érzésük volt, hogy utoljára látták.
1963. május közepén XXIII. lefeküdni. Személyes orvosa, a velencei Gasparini és sok más, az egészségével foglalkozó szakember a beteg megvizsgálása után arra a következtetésre jutott, hogy nincs remény a gyógyulásra, és most már csak a beteg szenvedéseinek enyhítésére van szükség. Május 23-án a pápa utoljára felkelt az ágyból, és hálószobája ablakához ment, hogy megnézze a Szent Márk teret. Petra, mint mindig sokféle tömeggel. Mintha elköszönne Rómától. XXIII. János nagyon vékony volt, szeme beesett, arca elszürkült. Az utolsó pillanatig azonban tiszta tudatot tartott. Halála előtti napon fogadta államtitkárát, aki tájékoztatta a rutin ügyeiről, és a bíborosok, testvérei és nővére búcsúzni jöttek tőle. XXIII. János 1963. június 3-án 19:00 órakor 49 perc.