陈伯平从小“性慧，喜读书，乐闻故事”。1898年于福建武备学堂肄业，清光绪二十七年(1901)入湖南石门县学堂就读，因不堪日本教师凌辱，愤而离校回绍，杜门潜修，勤练武术不辍，与诗人刘大白时相往来，交谊甚深。19岁考中秀才，徐锡麟“见而大奇之”，深受徐锡麟器重，介绍参加光复会，并进入大通学堂学习。1906年初，随徐锡麟东渡日本留学，入支那学堂，谋学陆军未成，改学巡警。1906年应秋瑾电召回国，曾想药物暗杀清朝大臣铁良，为徐锡麟劝。7月由秋瑾介绍，到中国公学任教习，与秋瑾、尹锐志等组织锐进学社，以此联系长江一带会党。1906年8月，与秋瑾在上海秘密研制炸药，在一次试验中因配方错误引起爆炸受伤，回绍兴治愈后再赴日本攻药物化学。1906年11月，在上海佐秋瑾创刊《中国女报》任主编并习剑击技术、赋诗填词。1906年冬，随徐锡麟去安庆。经常往来于安徽、浙江和江西之间联络会党。1907年4月，应秋瑾邀到绍兴大通学堂，研讨《光复军军制》和《光复军起义檄稿》。1907年5月，参与徐锡麟安庆起义，刺杀安徽巡抚学堂恩铭，与徐锡麟、马宗汉率巡警学生攻占军械局，与敌军相持在战斗中牺牲。墓葬杭州西湖孤山南麓。

关于陈的战死，亦有传言是徐锡麟亲手所杀。而安庆事后50年，曾参与起义的徐锡麟学生凌孔彰亦有类似回忆，后来在辛亥革命五十周年时修改放弃了陈伯平系徐锡麟所杀的说法。