وتلا على أبي بكر بن مجاهد لأبي عمرو، ثم تحوَّل إلى الأندلس، ونشر بها علمه، دخلها في سنة ثلاثين وثلاث مائة، ففرح به صاحبها الناصر الأموي، وصنَّف له ولولده المستنصر تصانيف، وكان يدري كتاب سيبويه، قد بحثه على ابن درستويه، وأملى كتاب "النوادر".
وله كتاب "المقصور والمدود"، وكتاب "الإبل"، وكتاب "الخيل"، و"البارع في اللغة" في بضعة عشر مجلدًا، لكنه ما تَمَّمَه.
وولاؤه لبني مروان، ولهذا هاجر إلى المروانية، وعظم عندهم، وتواليفه مهذبة.
أخذ عنه الله بن الربيع التميمي، وأبو بكر محمد بن الحسن الزبيدي، وأحمد بن أبان بن سعيد، وطائفة.
توفِّي بقرطبة في ربيع الآخر سنة ست وخمسين وثلاث مائة.
والقالي نسبة إلى قرية "قاليقلا" من أعمال منازكرد، من إقليم أرمينية، رافق ناسًا من تلك القرية، فعرف بذلك تلقيبًا، وشُهِرَ به.