برخلاف نام فامیلش نه در یزد که در قزوین متولد شد. یزدی در سال ۱۳۱۰ به دنیا آمد. ابتدا به عضویت نهضت خداپرستان سوسیالیست درآمد که در دهه ۱۳۲۰ به دنبال پیوند دادن اندیشه‌های سوسیالیستی با مذهب و به قول خودشان حفظ هویت دینی در جهان مدرن بودند. زمانی که دولت ملی بر اثر کودتای آمریکایی- انگلیسی ۲۸ مرداد ساقط شد، ابراهیم یزدی از حامیان نهضت ملی شدن نفت بود و مبارزه با استبداد پهلوی را با پیوستن به جریانات موسوم به ملی- مذهبی آغاز کرد. او که برای ادامه تحصیلاتش در رشته داروسازی به آمریکا رفته بود، به همراه جمعی دیگر از دانشجویان ایرانی پایه‌گذار کنفدراسیون دانشجویان ایرانی و انجمن اسلامی دانشجویان مسلمان در خارج از کشور شد؛ جمعیتی که به دنبال شناساندن ماهیت رژیم پهلوی در خارج از کشور بودند..
با اوج گیری مبارزات انقلابی در سال‌های ۱۳۵۶ و ۵۷ ابراهیم یزدی هم در متن انقلاب قرار گرفت. همراه خمینی از عراق به فرانسه آمد و در نوفل لوشاتو، دهکده‌ای کوچک در حومه پاریس که بعدها به واسطه حضور و پیروزی انقلاب اسلامی نامش جهانی شد، ساکن گردید. وی در فرانسه به‌ دلیل تسلط بر زبان انگلیسی وظیفه ترجمه بیانات خمینی را در مصاحبه‌ با خبرنگاران به‌عهده داشت اما گاهی این روند طوری پیش می‌رفت که در مقام سخنگویی خمینی ظاهر می‌شد.

در بهمن ۱۳۵۷، ابراهیم یزدی به دستور روح‌الله خمینی به عضویت نهادی به نام شورای انقلاب اسلامی ایران درآمد. خلخالی ادعا می‌کند ابراهیم یزدی بازپرس دادگاه انقلاب در زمان محاکمهٔ ژنرال‌های ارتش شاهنشاهی ایران بود[ و با آغاز به کار دولت موقت انقلاب به سمت «معاون نخست‌وزیر در امور انقلاب» برگزیده شد. وی برای مدتی به عنوان سرپرست مؤسسه کیهان منصوب شد و پس از استعفای کریم سنجابی از وزارت امور خارجه ایران، به عنوان «وزیر امور خارجه دولت موقت انقلاب» معرفی شد. در دوران وزارت او، ایران از پیمان سنتو خارج شد و سپس به جنبش غیرمتعهدها پیوست. در فاصله کوتاهی پس از آغاز بحران گروگان‌گیری در سفارت آمریکا، دولت موقت به نخست‌وزیری مهدی بازرگان در اعتراض به ناتوانی دولت و کنترل گروه‌های خودسر استعفا داد. وی سپس در سال ۱۳۵۸ خورشیدی، نماینده مردم تهران در دوره اول مجلس شورای اسلامی شد، اما پس از آن، صلاحیت‌اش برای نامزدی در انتخابات دوره‌های بعدی مجلس شورای اسلامی، توسط شورای نگهبان قانون اساسی، ظاهراً با استناد به اظهارات سید روح‌الله خمینی علیه نهضت آزادی، رد شد. ابراهیم یزدی، در جلد سوم کتاب خاطراتش، در صفحه ۷۳۷ در نامه‌ای به تاریخ ۲۴ بهمن ۱۳۶۹ خطاب به احمد خمینی نوشته: «شما خوب می‌دانید که «برنامهٔ سیاسی و اجرایی» آقای خمینی را من تنظیم کرده و ایشان تصحیح و تنقیح نمودند، که بعدها بر طبق آن شورای انقلاب و دولت موقت… تأسیس گردید. شما به کسی این اتهامات پوچ و بی‌اساس را زده‌اید که طراح و مؤسس سپاه پاسداران بوده‌است، طراح و مبتکر «روز قدس» بوده‌است، طراح اصلی و اولیه برخی دیگر از نهادهای انقلاب بوده‌است». وی در دی ماه سال ۱۳۹۵ قصد داشت برای انجام عمل جراحی به آمریکا سفر کند اما برای وی ویزا صادر نشد و در شهر ازمیر ترکیه تحت عمل جراحی قرار گرفت و در نهایت هم در شامگاه یک‌شنبه ۶ شهریور درگذشت.