因其附近有一座洞山，故得名。

洞山街道位于美丽的舜耕山脚下，东至矿业集团大通林场，西至三座窑路，北至淮南铁路，辖区面积6平方公里。

1957年4月，田家庵区设立洞山街道办事处。1960年5月田家庵区成立城市人民公社，撤销洞山街道办事处，建置田家庵人民公社洞山分社。1963年7月撤销洞山分社，恢复洞山街道办事处。2000年街道成立党工委。

洞山街道下辖5个社区，即中兴、军民、新村、小街和黎明社区，社区工作人员60人。街道下设4个党总支和25个党支部，党员855人。街道下设社区服务中心、社区事务受理中心、社区老年活动中心以及劳动和社会保障站等机构。辖区居民11552户，常住人口34739人，流动人口615人。