اشتغل بالعلم وسمع على شيوخ قرطبة، وكان من سماعاته بها "الموطأ", ثم طلب سماعه عاليا فرحل إلى المشرق, وهو في الثامنة والعشرين من عمره فلقي الإمام مالكا وسمع الموطأ منه كاملا إلا بعض أبواب في كتاب الاعتكاف شك في سماعه إياها منه فرواها من غيره، وسمع في مكة من سفيان بن عيينة، وفي مصر من الليث بن سعد وابن وهب، وعبد الرحمن بن القاسم.
وتفقه بالمدنيين والمصريين من أكابر أصحاب مالك بعد انتفاعه بمالك وملازمته له، وكان مالك يسميه عاقل الأندلس، وسبب ذلك فيما يروى أنه كان في مجلس مالك مع جماعة من أصحابه، فقال قائل قد حضر الفيل، فخرج أصحاب مالك كلهم لينظروا إليه، ولم يخرج يحيى، فقال له مالك: ما لك تخرج فتراه؛ لأنه لا يكون بالأندلس؟ فقال: إنما جئت من بلدي لأنظر إليك وأتعلم من هديك ولم أجئ لأنظر إلى الفيل، فأعجب به مالك وسماه عاقل أهل الأندلس، ثم عاد يحيى إلى بلاد الأندلس فانتهت إليه زعامة العلم بها، وبواسطته انتشر بها مذهب مالك، وتفقه به جماعة لا يحصون عددا وروى عنه خلق كثير.
قال ابن خلكان "وأشهر روايات الموطأ" وأحسنها رواية يحيى المذكور, وكان مع إمامته ودينه معظما عند الأمراء مكينا، عفيفا عن الولايات متنزها، جلت رتبته عن القضاء، فكان أعلى قدرًا من القضاة عند ولاة الأمر هناك لزهده في القضاء وامتناعه منه, ثم نقل عن ابن بشكوال.