Sayı saymak insanlık tarihi kadar eski olmalı. Belki de parmaklar insanoğlunun kullandığı ilk abaküstür diyebiliriz. Ancak sayılarla uğraşmak, işlem yapmak, yazı ve uygarlık tarihi ile ilişkilendirilebilir. Yunanca Abax sözcüğünden gelen Abaküs'ün Tam olarak ne zaman icat edildiği bilinmemekle birlikte yazılı kaynaklar Millattan önce 1300 yıllarına kadar gidebildiğini göstermektedir. Bazı çevreler de abaküsün 5000 yıl kadar önce icat edildiğini söylemektedir. Bir rivayete göre de Abaküsü, Çin imparatoru için çalışan Li Sou adında bir adam icat etmiştir. Li Sou icat ettiği bu abaküsü, çamurla doldurduğu bir tepsi ile, çamur tabakasının yüzeyine de 10 sıra halinde, inci taneleri dizerek oluşturmuştur.
