Lenin halála 1924 elején keserű harcot okozott a hatalomért. A fő antagonisták Trockij és Joseph Sztálin, a párt akkori főtitkára voltak, mindketten azt állították, hogy Lenin politikájának jogos végrehajtói. Trockijjal szemben, aki elsősorban értelmiségi, teoretikus és tehetséges katonai vezető volt, Sztálin okos és elszánt szervező volt. Sztálinnak a pártapparátus ellenőrzése révén sikerült elnyernie a párton belüli többség támogatását és megszilárdítani uralmát. 1927 novemberében egy párt-népszavazás teljesen visszautasította Trockij politikáját, kizárta őt a pártból és száműzte Almatyba. Két évvel később száműzték a Szovjetunióból. 1940-ben Mexikóban meggyilkolták, feltehetően Sztálin egyik ügynöke.
1929-ben Sztálint elismerték a párt és az ország legfelsõbb vezetõjeként. Ezután megkezdte a tisztogatás sorozatát, amely 25 éves kormányzását jelölte meg, és először a trockistákkal folytatott harcban fordult korábbi szövetségeseivel szemben. Ezeket a vezetőket, nevezetesen Nyikolaj I. Buharint és Alekszej I. Rykovot a párt felsőbb tanácsaiból szorították ki.
Ezt követően Sztálin kizárólag a párt és a rendőrség, valamint a hatalomra emelt kollégák ellenőrzésére támaszkodott. Fontos volt ezek között Vjacseszlav M. Molotov, Valerian V. Kuybyshev, Grigory K. Ordzhonikidze és Kliment Y. Voroshilov.
Az Unió alkotmánya és elismerése
Az 1920-as évek során mélyreható változások történtek a kormányzati adminisztrációban, és jelentős javulást értek el az ország belső gazdaságában és külpolitikájában. 1923 végéig a szovjet kormány által ellenőrzött terület az Orosz Szovjet Szövetségi Szocialista Köztársaságot, Fehéroroszország és Ukrajna keleti felét, valamint a Kaukázust foglalta magában. Sztálin felügyelete alatt föderációs tervet készítettek, majd 1924 januárjában új alkotmányt terjesztettek elő, amely a szovjet ellenőrzés alatt álló területeket a Szovjet Szocialista Köztársaságok Uniójává szervezte át. Az új állam kezdetben az orosz, az ukrán, a kaukázusi és a belorusz szovjet szocialista köztársaságokból állt. Annak ellenére, hogy bizonyos köztársaságok bizonyos fokú helyi autonómiát kaptak, a központi szovjet kormány szigorú ellenőrzést tartott a külügyek, a védelem és a gazdasági tervezés felett.
A későbbi években Transzkaukázia feloszlott a grúz, az örmény és az azerbajdzsáni szovjet szocialista köztársaságokra; Kazahsztánt és Közép-Ázsiát elválasztották az orosz SFSR-től; Közép-Ázsiát pedig a türkmén, üzbég, tadzsiki és kirgiz szovjet szocialista köztársaságokra osztották fel.
1924-re a nagy világhatalmak, miután kezdetben megpróbálták elszigetelni a szovjet kormányt, diplomáciai kapcsolatokat létesítettek vele, és a Szovjetunió részt vett nemzetközi konferenciákon. Az Egyesült Államok, az utolsó elismerést visszatartó nagyhatalom hivatalosan elismerte a szovjet kormányt 1933-ban, Franklin D. Roosevelt elnök adminisztrációja alatt.
1927-re a Lenin által kidolgozott új gazdaságpolitika, amelynek értelmében a kapitalizmus bizonyos mértékű megengedett volt, elegendő fellendülést hozott ahhoz, hogy erőfeszítéseket indítson a szocializmus felé való törekvés megújítására a hosszú távú szovjet célkitűzéseknek megfelelően. Ennek megfelelően a tervgazdaság új időszaka 1928-ban kezdődött, Sztálin ötéves tervei közül az első beiktatásával. Az ötéves tervek alapvető célja az volt, hogy a Szovjetuniót egy elmaradott mezőgazdasági országból vezető ipari hatalommá alakítsák át, a mezőgazdaság teljes kollektivizálását és a társadalom természetének átalakítását.
A nagy tisztogatás
Politikailag az 1930-as évek közepét a kommunista párt és a kormányzat drasztikus tisztogatása jellemezte minden olyan elem ellen, amely állítólag szemben állt a sztálini politikával. A megtisztítást megérintette Szergej M. Kirov, Sztálin támogatója, a párt tagja 1934 decemberében elkövetett merénylete. 1935 és 1939 között Sztálint az ellenzékkel gyanúsítottakat eltávolították a hatósági posztokról; sokakat bebörtönöztek, Szibériába száműztek vagy kivégeztek. Valójában 1934 és 1938 között az 1934-es Központi Bizottság tagjainak kétharmadát elítélték és kivégezték. A magas rangú katonatisztek több mint felét 1936 és 1938 között megtisztították.
Az 1936 és 1938 között Moszkvában megrendezett látványos tárgyalások során a legjelentősebb pártvezetőket, köztük Grigorij Y. Zinovjevet, Bukharint és Rykovot megvádolták, elítélték és kivégezték, mert állítólag összeesküvést folytattak Németországgal és Japánnal a Szovjet kormány. Külön, titkos tárgyaláson a Vörös Hadsereg több parancsnokát, köztük Mihail N. Tuhacsevszkij marsallt hasonló vádak alapján elítélték és kivégezték. A tárgyalások világszerte elítélték a szovjet rendszert, amelyet e nagy veszteségek komolyan meggyengítettek.
Moszkva szerint az 1930-as évek nemzetközi eseményei egyre inkább veszélyeztetik a Szovjetunió biztonságát. A Távol-Keleten Japán 1931-ben foglalta el Mandzsúriát, és a súrlódás fokozatosan kialakult a japán megszálló seregek és a mandzsúr határ mentén állomásozó szovjet erők között. 1938-ban a korábban szórványos fegyveres összecsapások súlyos határháborúvá váltak.
Ugyanakkor Hitler hatalomra kerülése Németországban az expanzió és az antikommunizmus politikájával még komolyabb veszélyt jelentett a szovjet biztonságra. Miközben más hatalmakkal - különösen Franciaországgal és Nagy-Britanniával - szövetséget keresve, hogy ellensúlyozza ezeket a fenyegetéseket, a Szovjetunió 1934-ben csatlakozott a Népszövetséghez. Az ezt követő öt évben Maksim M. Litvinov, a szovjet külügyi komisszár ismételten felszólította a tagokat hogy a fasiszta hatalmak egymást követő agressziói ellen összehangoltan lépjenek fel. A Szovjetunió ennek a kollektív biztonságnak nevezett akciónak a támogatását is igyekezett megszerezni azáltal, hogy ösztönözte az úgynevezett egyesült vagy népfrontos kormányok megalakulását a külföldi országokban. Az egységes front politikája a kommunista, szocialista és centrista politikai csoportok együttműködését szorgalmazta a fasiszta mozgalmak ellen.
1938 nyarán súlyos válság támadt, amikor a német kormány Csehszlovákia részéről követelte a nagy német kisebbséggel rendelkező határvidék, Szudéta-vidék megszállását. A Szovjetunió bejelentette, hogy kész támogatni a cseheket abban, hogy ellenálljanak ennek az igénynek, és felszólította Franciaországot és Nagy-Britanniát, hogy kínáljon hasonló segítséget. A francia és a brit kormány ehelyett elfogadta Hitler biztosítékát, hogy ez az igény magában foglalja a Németország által megszerzett végleges területi megszerzést. Ennek eredményeként jött létre az 1938. szeptemberi Müncheni Paktum, amely előírta a vitatott területek Németország felé történő engedését. E paktum aláírása a szovjet kollektív biztonsági politika kudarcát jelezte. 1939 márciusában a németek kelet felé haladtak a Szudéta-vidékről Csehszlovákiába, és gyorsan átvették az irányítást.