1988年，李小鹏进入省队业余班，1989年，李小鹏正式转正到湖南省队，一直师从湖南省体校教师易树基门下 。
1994年，李小鹏参加全国少年体操锦标赛，获得男子自由体操冠军 。
1996年2月，15岁的李小鹏入选国家体操队 ，来到了位于北京天坛公园旁的体操馆，从此开始体操生涯。
1997年，借着和“李家军”参加春晚的机会，李鹏就把名字改成了李小鹏。 8月31日－9月7日，16岁的李小鹏参加在瑞士洛桑举行的第33届世界体操锦标赛，与队友合作获男子团体冠军 ；10月，李小鹏参加在上海举行的第8届全运会体操比赛，以9.6分的成绩获男子自由体操冠军 ；11月，参加在瑞士举行的世界杯体操赛，以9.5分的成绩获男子双杠亚军，第一次参加世锦赛就拥有金、银、铜的“大满贯”的他被认定为中国体操队的新一代领军人物 。
1998年5月，李小鹏参加在日本靖江举行的世界杯体操总决赛，以9.425分和9.575分的成绩获男子自由体操和男子双杠两项冠军 ；6月参加在上海举行的98年全国体操冠军赛，以9.550分和9.700分的成绩获男子自由体操和双杠两项冠军 ；9月参加在天津举行的全国体操锦标赛获男子自由体操和跳马两项冠军 ；随后，参加在天津举行的中国杯国际体操赛以9.800分和9.650分的成绩获男子双杠和跳马两项冠军 ；12月，参加在泰国曼谷举行的第13届亚运会体操比赛，与队友合作，以230.200分的成绩获男子团体冠军，并以9.700分的成绩获男子双杠冠军 。1999年8月，李小鹏参加在云南昆明举行的全国体操冠军赛，获男子自由体操、男子双杠第1名 ；10月，参加在中国天津举行的第34届世界体操锦标赛，与队友合作获男子团体冠军；参加单项比赛，获男子跳马第1名、男子双杠第6名 ；
2000年5月，李小鹏参加在武汉举行的全国体操锦标赛获男子跳马、男子双杠和男子单杠三项第1名。同年9月的悉尼奥运会上，他是中国男子体操团体冠军主力队员，18日，李小鹏与队友杨威、黄旭、邢傲伟、郑李辉和肖俊峰合作，率领中国体操男队获得了第一个奥运会男团冠军 ；25日以9.825分的成绩获得了男子体操双杠冠军，迎来了其运动生涯的第一个巅峰 ；随后的世锦赛等一系列大赛上李小鹏也很少失手，巅峰状态一直保持到了雅典奥运会。2001年，李小鹏参加在日本大阪举行的第三届东亚运动会获得团体、自由体操冠军，9月10日参加在贵阳举办的第九届全国民族运动会，获得跳马、双杠冠军 。
2002年6月，李小鹏参加在昆明举行的全国体操锦标赛，获男子双杠第一名；10月，参加在韩国釜山举行的第14届亚运会体操比赛；11月22日，参加在匈牙利德布勒森举行的第36届世界体操单项锦标赛，24日，李小鹏参加在德国斯图加特举行的世界杯体操总决赛，又以9.837的高分荣获双杠冠军；随后国际体联宣布，体操动作“踺子后手翻转体180度接直体前空翻转体900度”将以李小鹏的名字命名，即“李小鹏跳” 。
2003年8月17日，国际体联宣布，将体操动作“挂臂前摆屈体后空翻两周成挂臂”命名为“双杠李小鹏” ；28日，李小鹏参加在美国阿纳海姆举行的第37届世锦赛，获得男子团队、跳马、双杠三枚金牌。
2004年雅典奥运会，中国体操男队遭遇滑铁卢，男团仅获第五名，李小鹏的信心受到了严重影响。本有机会超越李宁的纪录，但其先是跳马比赛中落地时坐在了地上，紧接着在双杠比赛中落地时动了一小步，只能拿到一枚铜牌。雅典本来应该是自己运动生涯的最巅峰时刻，但没想到却遭受了如此沉重的打击。
2005年，在南京举办的中华人民共和国第十届全运会上，李小鹏脚受伤了，在双杠和跳马比赛中脚踝挫伤加重；在随后的世锦赛上，虽收获一枚双杠银牌，但脚踝伤情又一次加剧，踝关节中不仅有游离骨，还有腱鞘炎。 在带伤参加完世锦赛后，李小鹏前往美国接受了手术，并因此连续错过了两届世锦赛。在这两届世锦赛上，中国男队的陈一冰、邹凯等人相继崛起，李小鹏逐渐成为了边缘人物。
2006年1月，曾为赵宏博主刀的医生为李小鹏动了手术，手术后李小鹏的脚伤也只治好了一半，无法根除。2006年3月底前，李小鹏的训练目标就是忍痛，争取到3月底可以适应疼痛做动作，但在今后的训练比赛中李小鹏的脚将是无时不疼的。 年底，李小鹏伤愈复出，并且在世界杯总决赛上以完美的表现获得双杠金牌。随后，获得了世界鞍马的冠军，从而追平了李宁14个世界冠军的记录 。
担任非凡中国董事长
2007年春天，刚刚恢复系统训练的李小鹏在训练中完成自由操900度转体时落地失控，右脚第五拓骨远端近关节处受伤，造成粉碎性骨折，这直接导致他不能按时恢复参加这次斯图加特世锦赛，为了备战2008年奥运会，受伤后的李小鹏只得暂时放缓跳马和自由操的训练，却一直没有放松在主要借助上肢力量来进行的双杠的训练，骨折第三天，李小鹏拄着拐棍拖着打了石膏的脚就来到体操房练上肢，每天白天照样上单双杠，晚上做治疗、做恢复 。2008年4月，李小鹏在世界杯德国站比赛中重返赛场，依靠7.1的难度动作，获得了16.250的高分荣获双杠冠军 ；5月15日，李小鹏在世界杯天津站上以16.775分的优异成绩再次荣获双杠冠军；8月，北京第29届奥林匹克运动会，李小鹏获得体操男子团体冠军。随后以16.450的成绩勇夺双杠冠军 。从1997到2008年的12年间，李小鹏在国际大赛中共夺得16个世界冠军，超正式超越了“体操王子”李宁，成为中国体操史上获得冠军最多的第一人。
2010年9月1日，拥有16个体操世界冠军头衔的李小鹏举行正式退役的晚会，晚会在湖南卫视《天天向上》节目中隆重登场，教练、队友、领导等众人均亮相 。
2019年5月18日，第23届国际体操名人堂颁奖典礼举行，李小鹏入选“国际体操名人殿堂” 。
2007年，李小鹏参加中央电视台节目《我的奥林匹克》，于3月7日播出 。
2008年，李小鹏与众位队友一起，跟着恩师黄玉斌做客央视《名将之约》节目。
2009年，央视《名将之约》节目介绍李小鹏和李宁，出现在纪录片中。
2013年4月，李小鹏成为浙江卫视《中国星跳跃》节目评委之一 。
2014年4月，浙江卫视打造的亲子节目《爸爸回来了》邀请了体操冠军李小鹏及女儿李馨琪 。
2014年9月22日，李小鹏与女儿、杨威与儿子一起录制《快乐大本营》。
2014年10月，深圳卫视和英菲尼迪双方联合制作中国版《极速前进》邀请了体操冠军李小鹏及妻子李安琪，并获得亚军 。
2015年3月20日，李小鹏发布微博，确定继续携爱女奥莉参加《爸爸回来了》第二季节目 。
2015年11月27日，亲子互动旅行节目《跟我出发》第一站“来自新加坡的邀请”首曝主题宣传片，宣传片中李小鹏携爱女李馨琪将作为这一季的明星亲子嘉宾闪亮登场 。
2016年3月3日，出席原创环球竞技真人秀《非凡搭档》的发布会，确认参加该节目的录制 ，5月因要陪伴怀孕待产的爱妻李安琪，李小鹏宣布退出《非凡搭档》的决赛 。
2018年01月18日，参加浙江卫视实景生活馆“生活方式分享秀”《你好！生活家》，与另一世界冠军惠若琪一起分享世界冠军养成记 ；同年，李小鹏参加《吐槽大会》第3季 。
2019年3月27日，李小鹏在香港接受了新浪娱乐记者的独家专访，他提到了自己妻子李安琪中文水平不是很高，但一直在努力学习中文 ；同年，李小鹏参加由国乒大满贯邓亚萍主持的访谈节目《中国体育英雄联盟》，回顾奥运荣光背后的英雄故事 。
在家中，父母总说他是个孝顺懂事的孩子。在不比赛的时候，赛场上的他总是不忘帮队友们抹镁粉、调整器械或是劝小队员们稳住心态，在队中已成为令人心服口服的“大哥大”（中国新闻网评 ）。