在国民党上海执行部，毛泽东担任组织部秘书，代理文书科主任。
当时曾在国民党上海执行部任职的罗章龙在《椿园载记》里回忆说：
国共合作具体执行时，中共曾多次郑重地进行讨论，各次会议均有国际代表参加。中央局会议曾做出决定，对于国共合作问题中共中央采取下列原则，即：
（一）中共保持独立自主原则，中共党报及中共各级刊物对国民党施政得自由批评，不受限制。
（二）中共领导的工农群众组织不受国民党及其政府干涉，工会、农会享有集会、结社、罢工、纠察自卫之自由。
（三）中共党员（包括团员）加入国民党，在国民党任群众工作，但一般不做国民政府官吏。工人运动领导者及中共所属工会会员不得加入国民党。
（四）在组织方面，自1923年7月起，中共中央由仲甫代表中共出席国民党最高会议。党组织自中央到省市各级按系统派遣党员分别协助国民党进行改组工作，包括在全国范围内建立党部及基层组织，训练干部，整饬宣传机构，协助国民党工作，扭转该党在民众中的不良影响，帮助国民党改善军事教育训练，建立革命军队等。
根据上述原则，中共中央政治局派政治局委员（时称中央局常委）王荷波、毛泽东、罗章龙三人参加国民党执行部，协助国民党进行改组事宜，后又续派中委李守常、谭平山等协助国民党在北方及广东的改组工作。中共各省委、市委分别派遣中共党员参加当地国民党省市委会的改组工作及军队改建工作。
1924年1月，国民党中央决定设置国民党执行部于上海法租界环龙路44号，作为国民党最高执行机构。执行部内主要设立组织、宣传、工人农民等部及秘书处。国民党派定胡汉民、汪精卫、戴季陶、于右任、叶楚伧、茅祖权等分任各部部长。中共方面由中央政治局决定毛泽东、罗章龙、王荷波、恽代英四人参加指导执行部工作（恽代英系代表团中央参加执行部工作），遇有特别重大问题则由国民党总理孙中山与中共中央书记陈独秀协商决定。同时，中共中央又决定派干部沈泽民、邵力子、瞿秋白、施存统、邓中夏、向警予、杨贤江、沈玄庐、张秋人、李成、刘伯伦等参加执行部各部门宣传与组织的基层工作。当时上海社会传称环龙路44号为“国共群英会”。
1924年5月5日，是孙中山就任非常大总统三周年纪念日，上海执行部国共两党工作人员齐集莫里哀路孙中山的住宅举行纪念活动，并在孙寓的花园中合影留念。当时参加者每人都有一张。60年后，仅中国革命博物馆馆藏一张，但仍然清晰可见。
在这张相片中，国民党人有胡汉民、汪精卫、张继、茅祖权、叶楚伧、叶纫芳、戴季陶、林焕廷、孙铁人、喻育之、王陆一、周雍能、何世桢、葛建时、陈德徵和向昆等16人。中共方面有毛泽东、王荷波、罗章龙、恽代英、向警予、邵力子、沈泽民、刘伯伦、韩觉民（团员）和张廷灏（团员）等11人。总计27人。相片是由一家广东人开设的“王开照相馆”拍摄的。上海国民党执行总部全体工作人员只30多人，而参加合影的居其中大多数，且都是双方的主要主持人。因而这张相片也就成为当年国民党与年轻的中国共产党实行合作的真实写照，珍贵的历史见证。不仅如此，在党的“六大”以前，中共中央的同志如此众多齐集一起留影的相片也是绝无仅有的。
在第一次国共合作期间，中共中央以国家民族利益为重，告诫全党党员，不计较权位，不营求私利，努力实干，相忍为国，把完成国民革命视为当前的迫切任务，耿耿此心，薄海皆知。〔14〕
罗章龙还同一些人谈起有关国民党上海执行部的情况：
1924年2月25日，上海执行部举行第一次会议（有会议记录原件可查）。这次会议主要是成立机构，决定人选。在人事安排方面，国民党中有三个主要人物参加：胡汉民、汪精卫、叶楚伧。