隴海鐵路于1905年起動工，碭山站所在徐州至商丘段與1915年通車。解放前戰(zhàn)亂不斷，鐵路運(yùn)輸時斷時續(xù)。1949年，隴海線連云港站至虞城縣站劃屬濟(jì)南鐵路局徐州鐵路分局管轄，碭山站屬之。2005年，全路裁撤鐵路分局，碭山站屬濟(jì)南鐵路局徐州車務(wù)段管轄。2008年，原徐州鐵路分局管轄各線路、站段整建制劃撥給上海鐵路局管轄，碭山站隨改屬上海鐵路局徐州車務(wù)段管轄，現(xiàn)為二等站。2020年6月20日起，碭山站實(shí)施電子客票。