1928年，楊杏佛受蔡元培之邀，任中央研究院總幹事。然而，相比起組織中央研究院的研究工作，楊杏佛更感興趣的事業還是政治。尤其是1931年“九一八事變”之後，民族危機加重，而蔣介石在1932年與汪精衛聯合，重新上臺，卻奉行“攘外必先安內”的政策，打擊國內要求積極抗日的輿論，把全部軍力用於剿滅江西的蘇區。這一政策引起諸多愛國人士的不滿，於是蔣介石私下命令由戴笠負責的特務處，對政見不合者採取威脅、綁架、祕密逮捕乃至暗殺等各種手段，試圖加強其專制統治。

爲了抗議蔣介石政權的暴行，1932年夏秋間宋慶齡、蔡元培、楊杏佛、林語堂等人開始籌備中國民權保障同盟，目的是爭取釋放國內政治犯，廢除非法的拘禁、酷刑及殺戮，給政治犯以法律辯護，並喚起輿論對國內剝奪民權現象的關注，爭取言論、出版、集會、結社等公民權利。同年12月29日，蔡元培、楊杏佛代表同盟在上海舉行中外記者招待會，正式宣告同盟成立，宋慶齡任主席，蔡元培任副主席，楊杏佛任總幹事。楊杏佛是同盟的積極分子，1933年春，他還到華北等地活動，批評蔣介石對政治犯的迫害，並主張停止內戰、一致抗日。

爲了制止中國民權保障同盟的活動，國民黨特務先是使用投寄恐嚇信的手段威脅，但宋慶齡、蔡元培、楊杏佛都不爲所動。宋慶齡和蔡元培在國民黨內部有很高的聲望，乃至在國內外都有巨大影響力，很難真正對他們下手，相比起來不那麼有名的楊杏佛就成了白色恐怖的犧牲品。在蔣介石的授意下，特務頭子戴笠親自策劃指揮了對楊杏佛的暗殺行動，企圖以此迫使民權保障同盟停止活動。於是就有了1933年6月18日清晨那血腥的一幕。

楊杏佛死後，蔡元培第一時間趕到醫院，並以中央研究院院長的名義致電南京政府主席林森和行政院院長汪精衛，要求“急予飭屬緝兇，以維法紀”（《申報》1933年6月19日）。法租界警務當局也立即派多名探員調查，表現出相當程度的重視。事發當日恰好汪精衛也在上海，在下午5點的記者招待會上被問及楊杏佛遇刺一事，他顯得十分驚訝，事後還回電給蔡元培，表示已經命令上海市政府儘快緝拿兇手。不過，這些都只是表面文章，即使在當時，輿論就已經懷疑楊杏佛的死是政治暗殺，針對的是中國民權保障同盟，目的是威脅宋慶齡和蔡元培等人。

6月20日，雨，楊杏佛的悼念儀式在萬國殯儀館舉行。蔡元培率中央研究院同人前來弔唁，中國民權保障同盟的其他成員如宋慶齡、沈鈞儒、魯迅、鄒韜奮、胡愈之、史沫特萊等人也都出席了入殮儀式。宋慶齡還就此事發表聲明控訴蔣介石政府的暴行：“這批人和他們所僱用的兇手以爲單靠暴力、綁架、酷刑和暗殺就可以把爭取自由的最微弱的鬥爭扼殺。這就是他們統治人民的武器，也正說明瞭他們整個政權的面目。 中國民權保障同盟就代表這樣一個爭取自由的運動，楊銓也就是因爲他在這個組織中的活動而被殘酷地殺害了。”（《爲楊銓被害而發表的聲明》，《宋慶齡選集》，第79頁）。魯迅則爲楊杏佛寫了這首膾炙人口的悼詩：“豈有豪情似舊時，花開花落兩由之，何期淚灑江南雨，又爲斯民哭健兒。”

楊杏佛的死在當時並未能找到兇手，雖然當時人大多懷疑這是聽命於蔣介石的復興社特務處所爲，卻也沒有真憑實據。直到1949年軍統特務頭子沈醉被捕，此事才真相大白。沈醉曾是戴笠的下屬，18歲就加入了復興社特務處，在上海從事特務活動，還參與了刺殺楊杏佛的行動。據他回憶，當時特務偵查到楊杏佛喜歡騎馬，有空就去租界以外的大西路、中山路一帶騎馬，因此他們本打算趁他騎馬時狙擊，但蔣介石反對這一計劃，因爲若在租界外暗殺，不僅不能達到威嚇宋慶齡的目的，而且還會增加中國政府當局破案的壓力。於是戴笠只好修改暗殺計劃，在法租界楊杏佛的寓所前將其殺害。

蔣介石的特務政治有效地維護了他的專制統治。上海的白色恐怖大大影響了中國民權保障同盟的活動，楊杏佛的死使同盟的積極分子不得不暫時避避風頭，鄒韜奮因此於同年7月被迫流亡海外。宋慶齡、蔡元培和同盟的其他成員雖然還在以各種方式堅持他們的政治理念，但作爲一個民主團體，中國民權保障同盟在楊杏佛死後就基本名存實亡了。