《苏报》案爆发后，蔡元培有了一次新的转变,从以教育、新闻开启民智的资产阶级新型知识分子,转型为主张暗杀的激进革命家。
蔡元培曾经担任《警钟》的主编职务，当时在《警钟》日报上连载的《俄国虚无党源流考》里的虚无党，就包括了民粹派。民粹派指的是代表农民利益的平民知识分子走上民主革命的道路，他们提出“到民间去”的口号，反对沙俄的专制统治，号召提倡个人恐怖主义，用暗杀手段来解决问题。
军国民教育会组织的暗杀团成员大部分为留日学生，主要以“鼓吹、起义、暗杀”三种手段来跟清政府抗争，他们想实现暗杀的第一个目标就是顽固派的后台——慈禧太后。当时暗杀团成员潜回北京，暗暗监视慈禧太后的行踪，但苦于找不到机会下手。同时由于拒俄义勇队和军国民教育会都受到压制，因此蔡元培和他的堂弟蔡元康、还有革命新人章士钊、陈独秀等人都在1904年加入了暗杀团这个组织。
蔡元培认为:暗杀需要自制方便、秘密、快速而且容易伪装隐蔽的武器,根据这些想法,他决心自制化学毒药。要自制化学毒药就需要有懂化学的人,他马上将爱国女校的化学教员俞子夷吸收入团。据陈独秀回忆,他也参加了上海暗杀团,在上海学习暗杀手段一个多月。这一个多月,陈独秀几乎天天与蔡元培在实验室里学习制造炸药,两人常常聚谈,相处亲密、融洽。陈独秀在《蔡孑民先生逝世后感言》中回忆说:“我初次和蔡先生共事,是在清朝光绪末年,那时杨笃生、何海樵、章行严等,在上海发起一个学习炸药以图暗杀的组织,行严写信招我,我由安徽一到上海便加入了这个组织,住上海月余,天天实验炸药。这时孑民先生也常常来实验室练习、聚谈。”
1905年，蔡元培不再担任女校校长的职务。在《苏报》案件以后，虽然再也无法公开传播革命理念，但革命者都把教育会和爱国女校当成了秘密基地。由此可见，虽然革命尚未成功，但中国教育会、爱国学社和爱国女校这些机构无论在教育史还是革命史上，都产生了非同凡响的意义。
为了等到一个发动革命起义的好时机，蔡元培一直在聚集力量，他在参加暗杀团的同时，还参与了发起光复会的活动。早在1903年，黄兴和陈天华就在长沙组建了华兴会，同时让蔡元培在长江下游配合，积蓄革命力量。
1904年，蔡元培和他们在上海见面，决定在11月16日举行起义。为了配合长沙的起义，蔡元培和陶成章等浙江革命党人共同商量决定以华兴会为榜样成立光复会，由蔡元培担任会长。由于蔡元培在当地的声望很高，光复会吸引了许多革命志士和知识分子共同参与，光复会迅速壮大起来。后来蔡元培因为事务繁忙，便把联络会长的任务交给了陶成章和徐锡麟等人。原本陶和徐这两人各自为政，但在蔡元培的撮合下，也开创了浙江两派革命党人携手合作的新局面。后来，蔡元培不再担任光复会会长，先是交给了陶成章，后来又委托徐锡麟和秋瑾等人负责。不幸的是，徐锡麟在谋划安徽和浙江两省起义的时候被捕，随后秋瑾也在绍兴被捕，两人先后牺牲，光复会也遭到了破坏。但革命党人时刻心怀革命大志，陶成章和章太炎在国外继续革命活动，重振旗鼓，使得光复会在辛亥革命期间重新崛起。
1905年的夏天，孙中山从欧洲回到日本，跟黄兴等革命党人会合，决定把兴中会、华兴会和光复会等革命团体联合起来，融合为更大的革命团体，当下形成了如火如荼的革命形势。8月20日，中国同盟会在日本东京正式成立，孙中山被推举为总理，黄兴担任执行部庶务。10月27日，蔡元培也加入了体现当时革命力量集中和扩大的中国同盟会，被任命为中国同盟会上海分会会长。他积极开展工作，继续发展会员加入，其中就包括黄炎培和周怒涛等人。
1906年春天，蔡元培离开上海回到故乡，在绍兴学务公所担任所长，希望能推动绍属八县的教育事业发展。他想办一所师范传习所来讲授科学知识，但在筹款时屡屡受到阻挠，于是又愤然辞职。
回顾参加革命活动的这几年时光，蔡元培一直保持着高昂的热情，也从未忘却对学术上的追求。但渐渐地，他感到茫然，发现自己的革命目标变得模糊，看不清前路。正好当时有朋友给他写信，告诉他清政府将派翰林院编检出国留学的消息，并让他也一起进京城登记。
被西方文化吸引的蔡元培，又燃起了出国留学的想法。早在改良运动中，蔡元培为了扩大知识领域就曾努力的学习过外文，了解到德国的文化可以说是整个欧洲的代表，因此他更明确了自己想要留学德国的想法。
请假离开京城已经数年，当蔡元培怀着复杂的心情回到京城销假的时候，却发现清政府因资金短缺，只够派遣到日本。蔡元培大失所望，他不想去日本，只好暂时留在了京城。同乡的朋友知道了他的愿望，鼓励他自费到德国留学，也答应帮他一起筹集学费。于是蔡元培申请自费去德国留学，同时在译学馆担任国文教员和教授西洋历史，等学部批准自费留学的申请。
1907年6月，清政府派驻德公使孙宝琦前往德国上任，蔡元培认识孙宝琦的弟弟孙宝瑄，于是请求他在哥哥面前疏通，谋求一个使馆职员的身份好去留学。孙宝琦知道以后，慷慨地答应每月资助蔡元培三十两银子用作留学的费用，而且不需要去当使馆职员，让他专心学习。商务印书馆这时候也跟蔡元培商量好，如果他在海外的时候定期帮忙编撰教科书，就会付他每月大约百元的酬劳。解决了学费和生活费的问题，蔡元培把一切安排妥当以后，就跟着孙宝琦，踏上了德国留学之路。
蔡元培很珍惜这个来之不易的机会，他对于学习时间也提早做好了计划：打算至少用五年的时间来“专修文科之学，并研究教育原理，及彼国现行教育之状况”，希望知己知彼，学到知识来改善中国的教育现状。
到了德国这个陌生的国度后，蔡元培既激动不已，又心怀忐忑：这里跟国内的差异很大，又面临着语言的障碍，自己到底能不能学成归国呢？还有在国外学到的一切，能否适应中国的实际情况？初到德国的蔡元培度过了一段最紧张忙碌的时光。他认为自己的当务之急是补习德语，当时的同行者还有齐寿山和钱方春，其中齐寿山的同学顾梦余在德国认识一些人，于是就帮蔡元培找了德语老师，蔡元培就这样开始了忙碌的留学生活。他每天要按时上德语课、温习德语，学习一门新的语言对于已经年过四十的蔡元培来说并不容易。同时为了贴补学费，孙宝琦介绍蔡元培去讲授国文赚钱，还要按约定帮商务印书馆编书然后邮寄回国，简直忙得脚不沾地。
蔡元培赴德旨在求知，勤工更是为了俭学，“若长此因循，一无所得而归国，岂不可惜！”为不耽误学业，他决意要改变这样的生活。1908年暑假，蔡元培便申请就读德国最有名的柏林大学，但因不能提供中学毕业证书而无法注册，于是只好离开柏林，前往莱比锡大学。
莱比锡大学在当时是已经有500年历史的一所名牌大学。该校的康德拉教授早年曾在北京译学馆任教，十分乐意招收中国学生，蔡元培便由其介绍顺利入学。但在填写入学申请表时，蔡元培担心自己年龄太大而不被录取，故而少写了5岁，把实岁40写成了35。
与其他人求学不同，蔡元培把在德国的求学称为“游学”，而不是“留学”。因为他不是为拿某个学历或者学位，目的是汲取知识、开阔眼界。与原来出国计划学习教育学相左的是，蔡元培在莱比锡大学以全面了解西学之精髓、博采诸家学说为宗旨。