1923年5月，朱德移居哥廷根，住在一个曾在德国军队做过将军的男爵家里，以每堂课两枚银元的天价，听将军讲授军事课。多年以后朱德轻蔑地回忆起这个将军说，“他始终还未学到自己所不知道的东西。”到了第二年，他还在哥廷根一所大学注册入学，用了九个月时间去学习社会学。
学习之余，朱德还积极参加中国留德组哥廷根小组每周三举行的学习会，期间读了如《共产党宣言》《共产主义ABC》等大量马列著作，后来还担任了小组宣传干事。
这期间，因为参加柏林选举群众集会抗议活动，朱德两次被捕，第二次被捕后被吊销了德国护照，驱逐出境。
1925年7月9日，朱德抵达苏联列宁格勒，先在莫斯科东方大学学习了两个月，之后10月被送往秘密军事训练班学习。这期间他注意研究苏联内战时期的游击战术，并写过关于武装暴动的论文。后来，当朱德离开学校时，教官问他回国后准备怎么打仗，他回答：“部队大有大的打法，小有小的打法”“打的赢就打，打不赢就走”“必要时拖队伍上山！”据说被教官痛斥不已。
1926年7月，朱德回到中国上海。当时正值国共合作北伐之际，他被党的总书记陈独秀派去四川做川军杨森部工作。9月，国民革命总司令部委任杨森为国民革命军第二十军军长，朱德为第二十军党代表并代理军政治部主任，到了这一年12月，朱德整整四十岁了。
1927年1月，朱德奉中共中央军委命令，脱离二十军，到江西南昌做老同学、国民革命军第五方面军总指挥兼江西省主席朱培德的工作。朱培德有老军人的义气和厚道。朱德一到，即被任命为国民革命军第五方面军总参议、第三军官教育团团长，之后又兼任南昌市公安局长——其实这个军官教育团是受中共中央军事部领导的，团员中有不少是中共党员或进步青年。
这一年5月，湖南许克祥发动“马日事变”，屠杀工农和共产党人，6月下旬在宁汉合流“清共”大背景下，朱德被朱培德解除所有职务，“礼送出境”。
1927年7月中旬，中共临时中央常委会议在武昌举行。会议初步决定“东征讨蒋”，以九江、南昌一带的贺龙率领的国民革命军二十军、叶挺率领的第十军第二十四师为基础，在南昌举行武装起义。
7月21日，朱德秘密潜回南昌，7月27日，周恩来抵达南昌，入住朱德在南昌花园角二号的寓所。朱德出面租下南昌江西大酒店，月底，中共前敌委员会在酒店成立，由周恩来、李立三、恽代英和彭湃组成。
1927年8月1日凌晨2时，周恩来、贺龙、叶挺、刘伯承等率领国民革命军二万余人，于拂晓占领南昌。
南昌起义，由叶挺代理前敌总指挥兼十一军军长，党代表为聂荣臻，贺龙担任起义总指挥并兼任二十军军长，党代表为萧乾吾，刘伯承任参谋团参谋长。8月1日上午，共产党人在南昌宣布成立由中国共产党人和国民党左派人士参加的中国国民党革命委员会，委员由宋庆龄、邓演达、周恩来、恽代英等组成。这个名单上的很多人，大概连共产党要发动起义都不知道，就被扯上名单，这个名单显然是有虚张声势之嫌，其实南昌起义的核心领导权掌握在以周恩来为首的中共前敌委员会手里。
但无论务实还是务虚，在这么多领导机构的名单里，我们都没有找到朱德的名字！后来用陈毅的话说，当时朱德的地位并不重要，也没人听他的话，大家只不过尊重他是个老同志罢了——大家尊重他是因为他年岁大了。总之，照现有的资料看，确实如此。朱德在8月1日前后一直被排斥在领导机构以外，以至于起义当夜，他领导的南昌军官教育团都一度被缴械。起义成功后，朱德担任第九军副军长，军长党代表是朱克靖。所谓的第九军，其实不过是由朱德率领的南昌军官教育团三个连，加上南昌公安局四百多名警察组成，统共不过七八百人。8月3日，起义军决定南下广东，这一天在那个中国国民党行动委员会二十五人的名单里，去掉了张发奎，递补上了朱德。事实上张发奎已经在积极调兵遣将，要镇压这次起义了。总前委决定任命朱德为南下先遣司令，率领所部第九军作为先遣队出发。于是，四十一岁的老将朱德，不仅无怨无悔，甚至是有点兴致勃勃地率领他那七八百人出发了。
南昌起义军主力从一出发就不顺，先是被叶挺硬扯入伙的十一军第十师师长蔡廷锴8月6日从进贤脱离了起义军。9月19日，起义军占领广东大埔县三河坝，按照前敌委员会汀州会议决定，起义军兵分两路——周恩来、贺龙、叶挺、刘伯承等率二十军和十一军的第二十四师，从粤闽边境的大埔乘船，经韩江而下，直奔潮汕；朱德率领第十一军二十五师和第九军教育团共四千余人留守三河坝，准备抗击从梅县向起义军进攻之敌。
众所周知，南昌起义军到了9月30日就彻底失败了。刘伯承与贺龙逃往上海，而叶挺和叶剑英则护送身患重病的周恩来逃到了香港。到了10月初，南昌起义各部成建制存在的就剩下留守三河坝的九军和二十五师，经过多月苦战，这支部队也只剩下两千多人了。而国民党钱大钧部的三个师正在强渡韩江，以优势兵力围了上来。激战数日后，朱德率部于10月6日撤出三河坝意欲向起义军主力靠拢，在潮州饶平县城附近，与从潮州地区撤逃出来的一百多起义部队相遇，这时才知道主力失败的消息，一时军心大乱！
10月7日，在饶平县一所学校里，朱德主持召开全体干部大会，在介绍了起义军主力在潮汕失利情况后，朱德说，我是共产员，我有责任把“八一”南昌其余的革命种子保留下来，有决心担起革命重担，有信心把这支队伍带出敌人包围圈，和同志们团结一起，一直把革命干到底！会议最后决定，部队隐蔽北上，穿山西行，直奔湘南。在这最艰难的时刻，不受重视的朱德露出了一个真正革命者的坚决本色，一个平凡的人之所以做出不平凡的业绩，也许就在于他的坚持！
后人曾记述过这一时期朱德在战斗中的两个小故事，在会昌作战中，国民党军两个团向教导团阵地进攻，危急时刻，有人惊慌地对上前沿阵地视察的朱德说，敌人上来了！朱德从容地说，上来就打嘛。他拿起一支步枪，像一名士兵一样开始射击，一下子就稳定了军心。
后来被称作“战神”的粟裕大将，那个时候是起义军中一名班长，关于这一时期，他在回忆录里写下这样一段朱德的故事，“由武平城向西北走十多华里，进到石径岭附近，这里都是悬崖峭壁，地形十分险要，只有一个隘口可以通过，却被反动民团占据了。这时，朱德同志突然出现在队伍前面，他一面镇定地指挥部队疏散隐蔽，一面亲自带领几个警卫员，从长满灌木的悬崖陡壁攀登而上，出其不意地在敌人侧后发起进攻，敌人惊恐万状，纷纷逃跑，给我们让开了一条前进的道路。当大家怀着胜利的喜悦，通过朱德同志亲自杀开的这条血路时，只见他威武地站在一块断壁上，手里掂着驳壳枪，正指挥后续部队通过隘口。”粟裕说，“我亲眼看到朱德同志攀陡壁、登悬崖的英姿，内心里悠然产生了对他无限钦佩和信赖之情。”今天当我记下这段文字时，也禁不住悠然神往，联想翩翩！
但是，粟裕所记述的这个小故事，大概是这支小部队在西进途中几乎每天都可能遇到的情况，国民党军队紧追不放，而前进途中又有地方部队及民团的骚扰，更为令人忧虑的是在危机四伏的环境里，这支七拼八凑的小部队人心混乱，一些人心头暗生悲观，感觉前途无望，部队每天都有开小差的……终于，在部队到达赣南安远县天心圩时，矛盾集中爆发了，十一军二十五师师长周士第、师党代表李硕勋等一大批各级干部要求离队！朱德百般劝说之下无效，只好听任他们离去。周士第是老共产党员，曾任孙中山卫队铁甲车队队长，他与同样老资格的李硕勋的离去对朱德的打击是巨大的。十年之后，在延安给他的传记作者史沫特莱讲起这段往事时，依然难掩悲愤之色！