其胞体呈梭形或椭圆形，胞质少（见图）。胞核呈椭圆形或三角形，着色深。在银染色标本中，其胞体发出的突起细长有分支，表面有许多小棘突。小胶质细胞的数量少，占全部神经胶质细胞的5%～20%。存在于灰质和白质中，以灰质中较多。中枢神经系统损伤时，小胶质细胞可以被激活为具有吞噬能力的细胞，吞噬细胞碎屑及溃变的髓鞘。血液循环中的单核细胞亦侵入损伤区，转变为巨噬细胞，参与吞噬活动。由于小胶质细胞具有吞噬功能，一般认为它来源于血液中的单核细胞，属单核吞噬细胞系统。

神经元、星形胶质细胞、少突胶质细胞、小胶质细胞与室管膜细胞的关系示意图