从外观上看，小脑中间有一条纵贯上下的狭窄部分，卷曲如虫，称为蚓部。蚓部两侧有两个膨隆团块称为小脑半球。在小脑蚓部和半球表面有一些横行的沟和裂，将小脑分成许多回、叶和小叶。

在这些横贯小脑表面的沟和裂中，后外侧裂和原裂是小脑分叶的依据。后外侧裂将小脑分成绒球小结叶和小脑体两大部分，而原裂又将小脑体分成前叶和后叶。

这样，前叶、后叶和绒球小结叶便构成了小脑3个横向组成的分部。在小脑的分叶中，为了简化命名，拉塞尔提出罗马字的命名系统，他将小脑蚓部从前到后按Ⅰ～Ⅹ次序分成10个小叶；

对小叶的半球部分，则在代表各小叶的罗马字前冠以H，例如HⅥ即表示小脑第Ⅵ小叶的半球部分。从发生学的观点来看，绒球小结叶出现最早，是小脑最古老的部分，被称为古小脑，它主要接受来自前庭核和前庭神经的传入纤维，调节躯干肌肉的活动，在维持肌紧张、身体平衡和姿势等方面起重要作用；

前、后叶的蚓部及后叶蚓部的后外侧部出现得稍晚，称为旧小脑，其主要功能与头部和身体的本体感受和外感受的传入信息有关，有调节肌紧张的作用；

小脑半球的大部分和部分蚓部发展得最晚，称为新小脑，它在人类最为发达，主要接受经脑桥接转的来自大脑皮质的纤维，参与由大脑皮层发起的随意运动的调节。

在位相性的活动和肌肉的协调运动过程中起重要作用。小脑的表面被覆着一层灰质，叫做小脑皮层；皮层的下方是小脑髓质，由出入小脑的神经纤维和4对小脑深部核团组成。

小脑皮层分为3层，从表及里分别为分子层、浦肯野氏细胞层和颗粒细胞层，皮层里含有星状细胞、篮状细胞、浦肯野氏细胞、高尔基氏细胞和颗粒细胞等5种神经元。

在这些细胞中只有浦肯野氏细胞发出轴突离开小脑皮层，成为小脑皮层中唯一的传出神经元；其他4种均为中间神经元，它们的神经末梢都分布在小脑皮层之内。

所有小脑叶片都有同样的神经组织结构（图2）。在分子层内，星状细胞和篮状细胞（亦称内星状细胞）的轴突走向均与小脑叶片的长轴相垂直。

每个星状细胞都有抑制性的轴树突触与数个浦肯野氏细胞的树突相接触，每个篮状细胞都有抑制性的轴体突触通过它的筐篮状神经末梢与数个浦肯野氏细胞的胞体相接触；

在颗粒层内，每个颗粒细胞有一个胞体和4～6支短的树突。颗粒细胞的轴突向上伸至分子层，在那里呈T字形分成两支，以相反的方向沿着叶片的长轴走行，被称为平行纤维，其长度可达5～7毫米。

平行纤维与浦肯野氏细胞、星状细胞、篮状细胞和高尔基氏细胞的树突形成兴奋性的轴树突触。高尔基氏细胞位于颗粒层的上部，它的树突分支伸向分子屋，轴突却终止于颗粒层，与颗粒细胞的树突和苔状纤维的末梢共同组成小脑小球，成为一种突触复合体，即苔状纤维的末梢与颗粒细胞的树突之间为兴奋性突触，高尔基氏细胞的轴突与颗粒细胞的树突之间为抑制性突触；

在浦肯野氏细胞层内，浦肯野氏细胞的胞体排列整齐有序，其树突分支伸向分子层，沿与叶片相垂直的平面分布，而它的轴突则向下穿出小脑皮层，与小脑深部核团的神经元接触而形成抑制性突触。

每个浦肯野氏细胞的轴突都有返行的侧支与其他的浦肯野氏细胞、高尔基氏细胞及篮状细胞构成抑制性突触。在小脑左、右半球深部的髓质中，每侧各埋藏着4个由神经细胞群构成的神经核团，由内侧向外侧分别为顶核、栓状核、球状核和齿状核，其中栓状核和球状核常合称为间位核。

小脑与外部的联系通过3对由小脑传入和传出纤维组成的巨大神经纤维束进行，分别称为上、中、下小脑脚或小脑臂。小脑借这3对脚与脑干相连，而且通过它们与其他的神经结构相联系，是小脑与外部联系的必经之路。

在小脑脚中，传出纤维占四分之一，而传入纤维约占四分之三。由小脑皮层的传出神经元浦肯野氏细胞轴突构成的传出纤维，首先到达小脑的深部核团，在这些核团转换神经元后，再离开小脑。

从小脑皮层浦肯野氏细胞到小脑深部核团的纤维联系，称为皮层—核团投射。这种投射具有一定的方位特征，蚓部皮层的浦肯野氏细胞主要投射到顶核，部分投射到前庭外侧核；

半球部皮层的浦肯野氏细胞投射到齿状核；介于蚓部和半球之间的旁蚓皮层的浦肯野氏细胞则投射到顶核和齿状核之间的间位核。

根据皮层—核团投射的这种解剖学特征，可将小脑分成三个纵向区：①内侧区，由蚓部皮层和它所投射到的顶核共同组成，该纵区管理整个躯体的姿势、肌紧张和平衡；

②外侧区，由半球皮层和齿状核组成，管理同侧肢体的灵巧运动；③间位区，由旁蚓皮层和间位核组成，管理同侧肢体的姿势和灵巧运动。

近年的研究，又进一步将上述3个纵区划分为7个纵区。