1914(大正3)年、東京都生まれ。1931(昭和6)年、慶應義塾大学経済学部予科に入学。のち、西脇順三郎が教鞭をとる英文科へ転進。
1937(昭和12)年、慶應義塾大学文学部を卒業し、同大学文学部英文科の助手となる。1950(昭和25)年、同大学文学部助教授を経て、1954(昭和29)年、同文学部大学教授に就任。ギリシャ語、ギリシャ哲学、ロシア文学、比較言語学などの授業を担当した。1969(昭和44)年、カナダのマッギル大学の教授、1975(昭和50)年、イラン王立哲学研究所教授を歴任した。
1979(昭和54)年、イラン革命のためテヘランを去り、その後は研究の場を日本に移し、著作や論文の執筆、講演などに勤しんだ。
1967(昭和42)年からは、鈴木大拙に次ぐ2人目の日本人として、スイスで開催される国際会議、エラノス会議へ参加し、以後12回にわたって東洋哲学に関する講演を行った。
主な著作に、『コーラン』(翻訳、上中下、岩波文庫、1957−58[昭和32−33]年)、『イスラーム文化』(岩波書店、1981[昭和56]年)、『意識と本質』(岩波書店、1983[昭和58]年)など多数。『井筒俊彦著作集』(全11巻別巻1、中央公論社、1991−93[平成3−5]年)がある。
また、1956(昭和31)年に刊行されたLanguage and Magicを始めとして英文による著作を多数執筆。Sufism and Taoism: A Comparative Study of Key Philosophical Concepts、Ethico-Religious Concepts in the Qur'an、Toward a Philosophy of Zen Buddhismなど一連の英文著作で世界的な評価を受けた。1982(昭和57)年、日本学士院会員。同年、毎日出版文化賞受賞、朝日賞受賞。
1993(平成5)年没。没後、The Izutsu Library Series on Oriental Philosophy(井筒ライブラリー・東洋哲学)として東洋の思想を欧米の言語によって紹介するシリーズ(欧文)が、慶應義塾大学出版会から 2001(平成13)年より刊行されている。