1935年，布琼尼成为最早五个苏联元帅之一。这五个人中有三个在1930年代末的大清洗中被处决，仅留下布琼尼和伏罗希洛夫。
布琼尼伍当兵时，他随顿河哥萨克骑兵第46团来到中国东北参加了日俄战争。等战争结束后，他被派往彼得堡骑兵学校学习，毕业后他又回到龙骑兵团，参加了第一次世界大战，曾先后在波兰、德国、奥地利和高加索等地作战。
一战结束后，他结识了西方面军布尔什维克党组织的领导人伏龙芝。而伏龙芝对布琼尼影响很大，让他认清以的路该怎么走，不久后十月革命爆发后，他同战友们一起在当地建立起了苏维埃政权。随后，布琼尼表现了一个杰出的骑兵指挥员的才干，获得联共派驻察里津地区的最高领导斯大林的赏识，荣膺红旗勋章。部队扩编为第一骑兵军，布琼尼任军长，而他手下师长铁木辛哥、罗科索夫斯基、团长朱可夫等，而这些人日后都成绩斯大林最信赖的将领，了解历史的朋友都知道尤其是朱可夫，被誉为斯大林的救火队长。
在1919年夏，邓尼金的白卫军向苏维埃共和国发动疯狂的进攻，红军被迫向腹地退却，这时，布琼尼指挥新建的骑兵击溃了苏图洛夫的部队。随后，又巧妙地实施机动，给插到红军南方方面军后方的马蒙托夫和什库罗指挥的哥萨克骑兵师以粉碎性的打击，占领了重镇沃罗涅日，为表彰布琼尼在这次作战中的功绩，全俄中央执行委员会再次授予他红旗勋章和革命荣誉武器。不久，他便出任苏军第1骑兵集团军司令，成为苏联国内战争时期著名的将领之一。在1920年第一骑兵集团军再次席卷南乌克兰和克里米亚，彻底消灭了弗兰格尔白卫军，胜利的结束了国内战争。
国内战争结束后，布琼尼积极投身红军的建设。在1935年和伏罗希洛夫、图哈切夫斯基、叶戈罗夫、布柳赫尔一起被授予苏联元帅军衔。这也是苏联最早的五位元帅，在此期间，他对红军的建设，特别是骑兵的建设和训练，作出了不可磨灭的贡献。
二战时期，希特勒发动侵苏战争。布琼尼作为苏联最高统帅部成员之一，参与了作战指挥，并先后担任统帅部预备队集团军群司令员、西南方向总司令、预备队方面军司令员和北高加索方向总司令等职，而在布琼尼担任西南方面军执行指挥官，以迎对入侵乌克兰的纳粹德国部队。西南方面军在随后的乌曼战役和基辅战役中被包围，造成苏联150万人死亡或被俘，成为军事史上最大的战败之一。
随后斯大林解除了布琼尼的指挥权并以谢苗·铁木辛哥取而代之。随后，他还陆续担任了一些军事职务。尽管布琼尼对苏军在第二次世界大战中的一些战役的失利负有责任，但他仍然始终得到斯大林的信任而免于被惩罚。布琼尼退休时被授予了苏联英雄的称号。在1973年，这位90岁高龄的苏联元帅，在莫斯科逝世。
