活性炭过滤器运行时，被处理水自过滤器上部进入，自上而下的通过活性炭滤层，利用活性炭的吸附性能，使水中的有害物质，如有机物、胶体、微生物、油类、余氯、及嗅味等吸附在活性炭表面而被去除，当活性炭滤层“失效”后，可用反冲洗的方法使其恢复吸附能力。
活性炭过滤器的工作是通过炭床来完成的。组成炭床的活性炭颗粒有非常多的微孔和巨大的比表面积，具有很强的物理吸附能力。水通过炭床，水中有机污染物被活性炭有效地吸附。此外活性炭表面非结晶部分上有一些含氧管能团，使通过炭床的水中之有机污染物被活性炭有效地吸附。活性炭过滤器是一种较常用的水处理设备，作为水处理脱盐系统前处理可有效保证后级设备使用寿命，提高出水水质，防止污染，特别是防止后级反渗透膜，离子交换树脂等的游离态余氧中毒污染。
活性炭过滤器广泛应用于水处理工艺，如饮用水的深度净化；酿酒、饮料等行业用水的深度净化处理；工艺冷凝水的除油、除有机物等的处理；纯水、高纯水制备工艺的前处理；工业废水及生活污水的净化处理等。