中国农工民主党是在黄山市开展活动最早的民主党派，1948年便在屯溪一带发展党员，并为促成休宁、屯溪的和平解放作出了重大贡献。
1951年，芜湖市整理委员会主委詹云青等人来屯溪整理党务。同年8月，农工党屯溪临时小组成立。随着组织发展，1953年成立农工党屯溪市支部。1957年以后，停止发展党员。“文革”期间，农工党和其他民主党派同时中断活动。1979年，市各民主党派恢复活动并开始发展党员。
1981年10月，农工党屯溪市第一届委员会成立。1985年1月，换届选举产生了第二届委员会。1987年，经国务院批准成立了地级黄山市，随着行政区划变更，1988年底，农工党黄山市第一届委员会成立，屯溪市委员会同时撤销。1992年、1996年、2001年、2011年、2016年分别召开了第二、三、四、五、六次全市代表大会。
黄山市农工党组织历任主要负责人为江志达、吴为、叶大彰、胡锦荣、王士荣、王昌柱、姜林和等。现任主委为毕普民。
截止到2023年12月底，农工党黄山市委会共辖基层组织16个（其中区县6个，市直9个，黄山风景区1个），党员总数581人。