قد شهر نفسه بالزهد في ناحية، فقصداه، فرآه أبو يزيد قد خرج من بيته، ودخل المسجد وتفل في قبلة المسجد، فقال أبو يزيد لصاحبه: " هذا الرجل ليس بمأمون على أدب من أداب السنة، كيف يكون مأموناً على ما يدَّعيه من مقامات الأولياء؟! "
وروى ان شقيقا البلخي وأبا تراب قدما عليه فقٌدّمت السفرة، وشاب يخدم أبا يزيد فقالا له: " كل معنا يا فتى! " فقال: " أنا صائم "، فقال له أبو تراب: " كل ولك اجر صوم شهر " فأبى، فقال له شقيق: " كل، ولك اجر صوم سنه " فأبى فقال أبو يزيد: دعوا من سقط من عين الله! " فاخذ ذلك الشاب في سرقه - بعد سنة - فقطعت يده ".
وقال احمد بن خضريه: " رأيت ربك العزة في المنام، فقال: يا أحمد؟ كل الناس يطلبون مني، إلا أبا يزيد فانه يطلبني ".
ومن شعره:
غرست الحب غرساً في فؤادي ... فلا أسلو إلى يوم التنادي
جربت القلب مني بالاتصال ... فشوقي زائد، والحب بادي