את מקומו של רבן גמליאל הראשון על כס הנשיאות ירש בנו רבן שמעון, שנתמנה למנהיג רוחני באחת התקופות הקשות ביותר בתולדות ישראל.
הרומאים הכבידו עולם יותר ויותר והדיכוי האכזרי הפך את החיים הרוחניים והתרבותיים לקשים מנשוא. רבי שמעון שם דגש חזק על הצד המעשי של קיום המצוות.
הוא היה אומר: ״כל ימי גדלתי בין החכמים ולא מצאתי לגוף טוב משתיקה. ולא המדרש עיקר, אלא המעשה וכל המרבה דברים מביא חטא״.
באותם ימי דיכוי חשוכים הצטרפו רבים אל שורות הלוחמים שבקשו להתמרד ולהאבק עם הרומאים. רבי שמעון תמך בהם תמיכה רב־צדדית. אפילו ההיסטוריון יוסף בן מתיתיהו (יוספוס פלוויוס) שלא נמנה על ידידיו, משבח בספרו את ידענותו ואת כשרונותיו של רבי שמעון.
אולם רבי שמעון לא חזה מראש את התוצאות הטרגיות של המרד, שהביא לחורבן בית המקדש. הוא העמיד את עצמו ואת רכושו לרשות המפלגה שדגלה במלחמה, לאחר שלא ראה כל ברירה אחרת במצב העגום שנוצר. מדיניותו זו של רבי שמעון לא מצאה תומכים בקרב מרבית החכמים שצידדו בנסיון להגיע לדו־קיום של שלום עם הרומאים.
במשנה אנו מוצאים את שמו של רבי שמעון מוזכר בהקשר עם דיני הקורבנות, כאשר נשים עניות, שלאחר לידה היו חייבות להביא קורבן זוג יונים, קבלו על המחירים הגבוהים של היונים, הכריז רבי שמעון כי אין צורך יותר להביא קורבן זה ולמחרת נאלצו מפקיעי השערים להוריד את מחירי היונים...
במקום אחר מוזכר רבי שמעון בהקשר עם שמחת בית השואבה, שהיתה במקדש. בלהט החגיגות היה רבי שמעון זורק אבוקות של אש ותופשם בידיו כלהטוטן וכן עושה ״עמידות ידים״׳ כדי לשעשע את עולי הרגל. פעם אחרת מסופר, כי הוא היה משמח חתן וכלה בעת חתונתם. בכל הדברים האלה הוא ראה מעשים שנעשים למען כבוד התורה, כמו דוד המלך בשעתו, עליו נאמר, שהיה מפזז ומכרכר לפני ארון השם.
רבי שמעון בן גמליאל נמנה, למרבה הצער, על עשרה הרוגי מלכות שמצאו את מותם בידי הרומאים האכזריים. האגדה מספרת כי רבי שמעון הושלך לכלא יחד עם רבי ישמעאל בן אלישע. השנים נידונו למות, אז קרא רבי שמעון במר נפשו: ״אוי לנו שאנו מתים כמו רוצחים ועובדי כוכבים!״
מששמע זאת רבי ישמעאל, שאל אם לא קרה פעם, שרבי שמעון סרב להזמין לביתו אדם עני ורעב, בעוד שהוא היה יושב בסעודה וזהו עונשו מן השמים. ורבי שמעון ענה ואמר, כי מעולם לא עבר עבירה כזו, אלא אדרבא, הוא היה שוכר אנשים שיעמדו בצידי הדרכים ויראו, אם יש נצרכים הזקוקים לאוכל, אותם היו מביאים לביתו של רבי שמעון.
רבי ישמעאל המשיך לשאול אם לא גבה ליבו, באשר לימד תורה להמונים הגדולים שהתאספו בירושלים, כדי לשמוע את תורתו. דחה רבי שמעון גם אפשרות זו ואמר, כי העונש הוא עונש מן השמים, שאיש אינו יכול להמלט ממנו.
כאשר הובאו שניהם למקום ההוצאה להורג, בקש רבי שמעון להיות מוצא להורג ראשון, לבל יראה במיתת חברו. בקשה דומה היתה בפי רבי ישמעאל, שטען, כי הוא בתור כהן גדול ״זכאי״ למות ראשון. בסוף הרגו בכל זאת את רבי שמעון תחילה.