在现存数学文献中，小数的第一次出现见于刘徽在公元3世纪中期的著述中。他在计算圆周率的过程中，用到尺、寸、分、厘、毫、秒、忽等7个长度单位；对于忽以下的更小单位则不再命名，而统称为“微数”。
在他对公元前1世纪的《九章算术》的注释中，记述了一个1.355尺的直径。《九章算术》本身已谈到平方根和得到的非整数的解，即留有余数的计算结果。但刘徽并不满足于余数，而以“微数法”进一步表示成一系列的十进制小数位。
他说：“微数无名者以为分子，其一退以十为母，其再退以百为母。退之弥下，其分弥细，则朱幂虽有所弃之数，不足言之也。”
通过演算可证明，刘徽的“微数法”与现代小数概念是一致的。
