وقد وُلد ابن جني بالموصل، وفيها نشأ، وإليها ينسب، وتختلف الروايات في تاريخ ميلاده؛ فابن خلكان في الوفيات وياقوت في المعجم يذكران أن مولده كان قبل الثلاثين والثلاثمائة، وأبو الفداء في مختصره يذكر أن مولده كان سنة ٣٠٢هـ.
ويؤيد رواية ابن خلكان وياقوت أن ابن قاضي شهبة يقول في طبقات النحاة : إن ابن جني تُوفي وهو في سن السبعين، وقد رجحنا في موضع آخر أن وفاته كانت في سنة ٣٩٢، فهذا يعني أن ولادته كانت سنة ٣٢٢ أو سنة ٣٢١.
وقد يؤيد رواية ابن خلكان وياقوت أيضًا ويبعد رواية أبي الفداء قصة مرور الشيخ أبي علي بابن جني سنة ٣٣٧ وهو متصدر للتدريس في مسجد الموصل، ثم قولة أبي علي له : تَزبَّبتَ وأنت حِصْرِم، حين اعترض عليه في قلب الواو ألفًا في نحو : قال، فوجده مقصرًا.
فأما أنها تؤيد رواية ابن خلكان وياقوت، فلأنها تقتضي أن يكون أبو الفتح إذ ذاك في الخامسة عشرة من عمره، وهي من أنسب سني العمر لمقالة أبي علي السابقة، فهي تعني أن ابن جني بجلوسه للتدريس فيها قد سبق أوانه، وتكلَّف من الأمر ما لا قِبَل لمن في مثل سنه به، وغير بعيد أن يقصِّر ابن جني في هذه السن في مسألة قلب الواو ألفًا، ولا سيما حين يكون صاحب الاعتراض فيها إمامًا من طراز أبي علي.
صحيح أنه يقلُّ أن يجلس امرؤ للتدريس في الخامسة عشرة من عمره؛ ولكن نبوغ ابن جني حقيق - فيما نعتقد - أن يجعله من هذا القليل، على أنه يجوز أن يكون الأمر كله مجرد مساءلة دارت بين أبي الفتح وبعض قرنائه، وأن أبا علي اختصه بالاعتراض؛ لأنه كان يبدو بينهم المقدَّم المرموق، وفُهم الأمر بعد ذلك لسبب من الأسباب على أنه جلوس للتدريس.
وأما أن هذه القصة تبعد رواية أبي الفداء، فلأنها تقتضي أن يكون أبو الفتح إذ ذاك في الخامسة والثلاثين، وما كان أبو الفتح ليقصِّر - وهو في هذه السن - في مسألة قلب الواو ألفًا، ولا لأبي علي أن يقول قولته تلك، وإلا بدت كلامًا لا مناسبة بينه وبين المقام الذي قيل فيه.
وأخذ ابن جني علومه عن كثير من رواة اللغة والأدب؛ منهم : أحمد بن محمد الموصلي، وأبو جعفر محمد بن علي بن الحاج، وأبو بكر محمد بن الحسن بن مقسم، ثم أبو علي الفارسي.
وقد صحبه ابن جني بعدما التقيا بالموصل سنة ٣٣٧، ولازمه في السفر والحضر١.