لم تذكر كتب التراجم شيئاً عن مكان أسرته، فكل ما وصل إلينا يومئ إلى أنه كان من أسرة فارسية. وقد أغفلت كتب التراجم السنة التي ولد فيها سيبويه، غير أن بعض الباحثين ذهبوا إلى أنه ولد في سنة 148 هـ، وُلد سيبويه في قرية البيضاء في بلاد فارس. نشأ سيبويه بالبصرة بعد أن رحلت أسرته من بلاد فارس إليها، وهو مولى بني الحارث بن كعب، وقيل مولى آل الربيع بن زياد، سميّ سيبويه لان أمه كانت ترقصه وتقول له ذلك، ومعنى سيبويه رائحة التفاح، وقيل بل لأنه كان شابا نظيفا جميلا أبيضا مشربا بحمرة كأن خدود لون التفاح وذلك يقال له سيبويه لان التفاح سيب أو لأنه كان يعتاد شم التفاح أو كان يشم منه رائحته. اتجه إلى دراسة الفقه والحديث حتى خطّأه حَمَّادُ بن سَلَمة البصري، فقد روي أن سيبويه قصد مجلس حَمَّاد بن سلمة الذي كان يستملي عليه سيبوبه حديثاً جاء فيه قال: «قال صلى الله عليه وسلم: ليس من أصحابي أحد إلا لو شئت لأخذت عليه ليس أبا الدَّرداء»، فقال سيبويه: «ليس أبو الدَّرداء» ـ ظنّه اسم ليس، فصاح به حمَّاد: لحنت يا سيبويه، فقال سيبويه: لاجَرَم والله لأطلبن علماً لا تُلَحِّنَنِّي فيه أبداً.