1941年6月，斯大林任苏联国防委员会主席，同年8月任苏联武装力量最高总司令。苏联通过扩大自己的版图，建立起一条“东方战线”。1941年6月22日早上4时45分，希特勒突然撕毁苏德互不侵犯条约，伙同匈牙利、罗马尼亚、芬兰等**队，发动了闪击苏联的巴巴罗萨计划。在此之前，斯大林已经收到了来自一些苏联间谍和苏军将领的警告，但他认为纳粹德国不会冒着两线作战的危险，在彻底击败英国之前就进攻苏联，因此没有对同纳粹德国展开本土战争做充分的准备。在确认德军的入侵后，斯大林担任了苏联国防委员会主席和苏联武装部队最高统帅，并于同年7月3日发表演说，号召苏联人民不仅要消除本国面临的危险，还要帮助解放在德国法西斯奴役下的欧洲各国人民。在德军的突然打击之下，同时因为大清洗带来的负面影响，苏军措手不及，损失惨重。1941年8月，由于斯大林拒绝采纳朱可夫的建议，下令红军死守基辅，结果导致苏联西南方面军在基辅战役中被德军围歼，纳粹德军宣布歼灭苏军66万人，希特勒宣称这是人类战争史上最大的歼灭战。14

    1941年11月初，德国中央集团军逼近莫斯科城下，斯大林坚决留在城里组织反击。11月7日，斯大林命令苏联红军在莫斯科红场举行了阅兵式，发表了重要讲话，讲话中斯大林说道：“红军和红海军战士、指挥员和政治工作人员、男女游击队员同志们！全世界都注视着你们，把你们看作是能够消灭德国侵略者匪军的力量。处在德国侵略者压迫下被奴役的欧洲各国人民都注视着你们，把你们看作是他们的解放者。伟大的解放使命已经落在你们的肩上。你们不要辜负这个使命！你们进行的战争是解放战争，正义战争。让我们伟大的先辈亚历山大涅夫斯基、季米特里顿斯科伊、库兹马米宁、季米特里波扎尔斯基、亚历山大苏沃洛夫、米哈伊尔库图佐夫的英勇形象，在这次战争中鼓舞你们！让伟大的列宁的胜利旗帜引导你们！彻底粉碎德国侵略者！消灭德国占领军！我们光荣的祖国、我们祖国的自由、我们祖国的独立万岁！”，斯大林在这次讲话中提及的俄罗斯历史上的民族英雄的用意，是以俄罗斯民族主义来鼓舞苏军战斗。受阅的苏军部队随即从红场直接开赴前线。在朱可夫、华西列夫斯基等将领的指挥下，12月6日，苏军从莫斯科城郊开始反攻，到次年4月下旬击溃德军50多个师，击毙击伤德军80多万人，将敌军击退150公里至400公里，解除了对莫斯科的威胁，夺回了60多座城市。苏军在莫斯科保卫战中的胜利宣告了希特勒“闪击战”的彻底破产，极大地鼓舞了苏联及全世界人民战胜法西斯的信心。14