马林在中国的两年间，中共接受了共产国际的领导，而国共两党也开始了实质性的合作。他刚到中国时曾宣称，“要把中国最大的、真正的政党国民党建设成为一个群众性的政党”，为此，他为早期中共选择了一条与共产国际以及国民党的合作之路。
1922年8月28日至30日，在马林的提议下，中共中央在杭州西湖举行了特别会议，专门讨论国共两党的合作问题，他向与会者传达了共产国际的八月指示。经过讨论，会议基本达成了一致意见。会后，陈独秀、李大钊、蔡和森、张国焘、张太雷等中共中央领导人相继加入了国民党，并开始帮助孙中山改组国民党。西湖会议标志着中共政治主张的重大改变，即采取“党内合作”的形式同国民党共事，国共合作迈出重要一步。
1923年6月12日—20日，中共三大召开，马林以共产国际代表的身份出席了会议。三大最终确立了国共合作的具体方针及政策。这为国民党在1924年1月召开的第一次全国代表大会做好了铺垫，预示着国共合作的正式启动。
马林作为国际职业革命家，于1921年4月在奥地利维也纳领取前往中国 签证时被捕，获释后被西方列强的警方列为注视目标。马林在6月3日到沪后，向荷兰总领事馆登了记（否则就有被驱逐的危险），并以《地方经济学家》杂志驻上 海记者身份公开活动。不过密探们很快就掌握了他的行踪。
日本警视厅1921年6月底就得到情报说，“上海支那共产党”近期将召集各地代表开会，随后通知了上海的英美法租界。至于情报的来源，估计是秘密检查了上 海的李达写往日本鹿儿岛通知周佛海的信件。周佛海在日本时曾向同学们宣传过共产主义思想，很快引来警视厅监视，李达通知他到上海参加共产党成立会议的信很可 能受到邮检。
中共一大在上海的“李公馆”进行到1921年7月30日，正在讨论党纲时，突然有个可疑的陌生人闯入会场，自称找错了地方。有地下工作经验的马林马上宣布 散会，再改期改地点进行。代表们疏散不过十几分钟，法国巡捕便包围了会场进行搜查。李达后来回忆说：“假如没有马林的机警，我们就会被一网打尽。”