בעוד רב ושמואל היו מגדולי האמוראים בבבל, היו רבי יוחנן וריש לקיש ראשוני וגדולי האמוראים בארץ ישראל. ידידות רבה שררה ביניהם, בדומה לידידות ששררה בין רב ושמואל.
רבי יוחנן התייתם בילדותו מאביו ומאמו וחונך בבית סבו. עוד בשחר ילדותו ניכרו בו כשרונות יוצאים מן הכלל ותשוקה עזה ללימוד התורה. בנוסף, הוא היה יפה תואר ויפה מראה ובריא בגופו.
הוא למד תורה אצל רבי שמעון בר אליעזר, רבה, רבי חנינא בר חמא ועוד. ימי צעירותו היו בסוף תקופת התנאים והוא הספיק ללמוד תורה בבית מדרשו של רבי יהודה הנשיא. בהזדמנות אחת הוא סיפר כי ישב שבע שורות מאחורי מושבו של רב והקשיב כיצד שוחח רבי יהודה הנשיא עם רב ודבריהם היו כגחלי אש. באותם הימים הוא היה מצעירי התלמידים, ולא הבין את שיחתם.
ענייני העולם לא נחשבו אצלו למאום; הוא העדיף לסבול עוני ודחקות ולהתמסר מלימוד התורה, מאשר להתעסק במלאכה. אפילו את חלקת השדה שירש מאבותיו מכר כדי שיוכל להקדיש את חייו לתורה. ידיד של רבי יוחנן בשם אילפא הפציר בו פעם להתעסק במסחר, אך הדבר לא ארך זמן רב.
לאחר פטירתו של רבי הושעיא שהיה זקן ראש הישיבה שבטבריה, נבחר רבי יוחנן לרשת את מקומו. המוני תלמידים נהרו לטבריה כדי ללמוד בישיבה שבראשותו, ושמו התפרסם בארץ ישראל ואף מחוצה לה.
הערכה רבה רחש רבי יוחנן לרב שישב בבבל, ובמכתבים אליו כינהו בשם "לרבינו שבבבל". לאחר שנפטר רב מיאן רבי יוחנן להכיר בשמואל כסמכות הלכתית שווה לרב, וכינהו במכתבים בתואר "חברינו שבבבל". לשמואל היתה מורת רוח מהעובדה, והוא ביקש להשפיע על רבי יוחנן. על-מנת לעשות זאת הוא שלח אליו כתשורה לוח שנתי למשך שישים שנה. רבי יוחנן התפעל מאוד מחוכמתו של שמואל בחשבון ובאסטרונומיה ובחוכמת העיבור כך שיכל לקבוע לוח לשישים שנה מראש, אך הוא הדגיש כי אין זו הוכחה מספיקה לרמת הידע של שמואל בהלכה.
שמואל שמע את תגובתו של רבי יוחנן והחליט לנקוט בצעדים אחרים. הוא שיגר לרבי יוחנן שאלות רבות כל-כך בנושאי טריפה עד שהיו צריכים להטעינם על-גבי מספר גדול של גמלים! הצעד הזה השפיע עמוקות על רבי יוחנן שקרא "אכן ישנו רב בבבל, אלך אליו"! אולם, מסיבות שונות הנסיעה לא יצאה אל הפועל.
כאשר רבי יוחנן הגה בלימוד התורה, הוא יכל לשכוח מהמתרחש סביבו. פעם עבר לידו אחד מגדולי השרים של רומי אך רבי יוחנן היה שקוע בתלמודו ולא קם מפניו. עבדי השר כעסו וביקשו לעשות ברבי יוחנן שפטים על הזלזול באדונם, אך הוא מנע בעדם בהסבר כי הדבר לא נעשה מתוך זלזול אלא מתוך התעמקות גדולה בלימוד.
כאמור היה רבי יוחנן יפה מראה בצורה מיוחדת. על יופיו היו אומרים כי אם אדם רוצה לקבל מושג כלשהו מיופיו, יהיה עליו לקחת גביע כסף מצוחצח שזה עתה יצא מבית היוצר, למלא אותו בגרגרי רימון אדומים ועליהם יניח זר שושנים אדומות, יניח אותם בין הצל ובין השמש ואז יוכל לדעת מעט מיופיו של רבי יוחנן!
כאשר שאלו אותו פעם האם אין הוא חושש מעין הרע בשל יופיו הנדיר, השיב "אינני חושש כי מוצאי מזרע יוסף הצדיק, בו לא שלטה עין הרע".
במהלך חייו פקדו אותו צרות רבות, מלבד העוני והדחקות שסבל, מתו כל בניו – עשרה במספר – בחייו. אך הוא קיבל את הכול באהבה. בשל כך היה רבי יוחנן הוגה תכופות בספר איוב, וכשסיים אותו היה אומר: "סוף האדם למות; סוף בהמה לשחיטה, והכול למיתה הם עומדים. אשרי מי שגדל בתורה, ועמלו בתורה ועושה נחת ליוצרו, וגדל בשם טוב, ונפטר בשם טוב מן העולם. ועליו אמר שלמה: טוב שם משמן טוב ויום המות מיום הולדו".
באמרותיו הרבות הפזורות בלמוד ניתן ללמוד רבות על מסירותו ללימוד התורה ואהבתו לתלמידי החכמים. באחת ההזדמנויות אמר "כל הלומד תורה ואינו מקיימה – מוטב שלא נברא".
על התפילה אמר כי כל המניח תפילין, קורא שמע ומתפלל, מעלה עליו הכתוב כאילו בנה מזבח והקריב עליו קורבן. ובהזדמנות אחרת התבטא כי שעת תפילה היא שעת רצון לפני הבורא. בנוסף, הוא הדגיש את חשיבות התפילה בציבור באומרו "כאשר הקב"ה בא לבית הכנסת בעת התפילה ולא מוצא שם מנין יהודים – חורה אפו".
רבי יוחנן דיבר על ביאת המשיח כאשר יבוא לגאול את בני-ישראל, אולם הוא ציין את קושי הגלות שיכפר על חטאי בני ישראל ואז יבוא משיח צדקנו.
אף על כוחה של התשובה אנו מוצאים את פתגמי רבי יוחנן. הוא אמר כי הרשע הגדול ביותר יכול לחזור בתשובה ולזכות בחלק לעולם הבא; כאשר מנשה בן צדקיהו מלך יהודה חזר בתשובה, והעבירות מנעו את מעבר תפילותיו, קרע האלוקים פתח ברקיע וקיבל את תשובתו, סיפר.
הוא נפטר בשיבה מופלגת בשנת 4039 לבריאת העולם, 68 שנה לאחר רבינו הקדוש. הוא זכה להיות עורך "התלמוד הירושלמי".
