שמעון הצדיק היה אחרון אנשי כנסת הגדולה, כהן גדול במשך ארבעים שנה ומנהיג העם בדור שלאחר עזרא. לפי המסורת, שמעון הצדיק כיהן בסוף ימי פרס ובראשית ימי שלטון היוונים בארץ. בשל התחלפות המשטר התבטלה 'כנסת גדולה', והוקמה הסנהדרין שבראשה עמד הכהן הגדול.
שמעון הצדיק נחשב לאחרון שבאנשי כנסת הגדולה. במסכת אבות מובא בשמו: "שמעון הצדיק היה משירי כנסת הגדולה. הוא היה אומר על שלושה דברים העולם עומד: על התורה. ועל העבודה. ועל גמילות חסדים".
בארבעים השנים בהן שימש ככהן גדול, תמיד עלה גורל השעירים ביום הכיפורים תמיד בימין, ולשון של זהורית היתה מלבינה והיה הנר המערבי שבמנורה דולק כל הזמן ואש המערכה היתה מתגברת (יומא לט ע"א).
במסכת מנחות (קט ע"ב) מסופר כי בשנה בה מת אמר לתלמידיו: "שנה זו אני מת". אמרו לו: "מנין אתה יודע?" אמר להם: "כל יום הכיפורים נזדמן לי זקן אחד לבוש לבנים, ונתעטף ונכנס עמי ויצא עמי. השנה נכנס עמי ולא יצא עמי". אכן, לאחר חג הסוכות, חלה שבעה ימים ונפטר, בכ"ט בתשרי.
בגמרא ביומא ס"ט מסופר על מעשה בו הציל שמעון הצדיק את עם ישראל מהשמדה. היה זה כאשר הכותים הלשינו בפני אלכסנדר מוקדון שהיהודים מורדים בו, וביקשו רשות להחריב את בית המקדש שבירושלים. כאשר עלה אלכסנדר על ירושלים להחריבה, יצא לקראתו שמעון הצדיק. כה נכתב בגמרא: "יום שבקשו כותיים את בית אלוקינו מאלכסנדרוס מוקדון להחריבו ונתנו להם. באו והודיעו את שמעון הצדיק. מה עשה? לבש בגדי כהונה, ונתעטף בבגדי כהונה, ומיקירי ישראל עמו, ואבוקות של אור בידיהן, וכל הלילה הללו הולכים מצד זה והללו הולכים מצד זה עד שעלה עמוד השחר. כיון שעלה עמוד השחר אמר להם: 'מי הללו?' אמרו לו: 'יהודים שמרדו בך'". כך המשיך אלכסנדר מוקדון להרוג את היהודים, עד שאירע המהפך: "כיון שראה לשמעון הצדיק, ירד ממרכבתו והשתחווה לפניו. אמרו לו: 'מלך גדול כמותך ישתחווה ליהודי זה?' אמר להם: 'דמות דיוקנו של זה מנצחת לפני בבית מלחמתי'". אלכסנדר מוקדון הסביר לשונאי ישראל שבכל מלחמה שלו, הוא רואה דמות כשמעון הצדיק, ובזכות זקן זה הוא מנצח במלחמתו.
אלכסנדר מוקדון פנה לשמעון הצדיק ומלוויו, ושאלם: 'למה באתם?', מספרת הגמרא את תשובתו של שמעון הצדיק: "אמרו: 'אפשר בית שמתפללים בו עליך ועל מלכותך שלא תיחרב, יתעוך גויים להחריבו?". אמר להם: "מי הללו?", אמרו לו: "כותיים הללו שעומדים לפניך", אמר להם: "הרי הם מסורים בידיכם".
כך אירע הנס הגדול. הגמרא מתארת כי "מיד נקבום בעקביהם ותלאום בזנבי סוסיהם, והיו מגררין אותן על הקוצים ועל הברקנים עד שהגיעו להר גריזים. כיון שהגיעו להר גריזים חרשוהו, וזרעוהו כרשינין. כדרך שבקשו לעשות לבית אלוקינו".
ורבינו הרי"ח הטוב בספרו בניהו בן יהוידע על יומא שם כתב וז"ל:
"לבש בגדי כהונה ונתעטף בבגדי כהונה. פירוש בגדי כהונה כשהיה לובשם כהן גדול בבית המקדש היה שורה עליהם זיו של אורה שכל אדם הרואה אותם מרגיש במראה עיניו בהארה זו ובודאי הארה זו לא תהיה עליהם אלא רק בבית המקדש, אך עתה ראה שמעון הצדיק השעה צריכה לכך שתהיה הארה זו עליהם גם כשהוא לובשם חוץ למקדש לכך בצאתו בהם המשיך אותה ההארה על ידי כונות ידועות לו, ולזה אמר לבש בגדי כהונה הם בגדים העיקרים ונתעטף בבגדי כהונה קאי על אותו זיו ההארה שלהם שהמשיך על הבגדים. ומה שאמרו אבוקות של אור בידם, נראה לי בס"ד שתפסו בידם אבוקות של אור זכר לזכות התורה שיש להם כמו שנאמר [משלי ו' כ"ג] נר מצוה ותורה אור שתגין עליהם. ועוד נראה לי בס"ד שתפסו אבוקות של אור בידם עשו בזה כונה על שם קדוש הנקרא אדי"ר רו"ן שיוצא מפסוק [שמות ט"ו ו'] ימינך ה' נאדרי בכח וכנזכר בדברי רבינו האר"י ז"ל בשער רוח הקודש ביחוד ל"א יע"ש. ושם זה יש בו אותיות או"ר ואותיות י"ד ואותיות נ"ר לכן תפסו אבוקו"ת או"ר ביד"ם שיש כאן אור ויד ונר שכיונו בזה על שם אדי"ר רו"ן הנזכר לשמירתם. ומה שהיו מהלכין כל הלילה כולה נראה כיונו לילך רק בחצי השני שנקרא לילה שהוא עת רצון וכיון שזרחה חמה פגעו זה בזה ומן השמים נעשה כך לסימן טוב שבזריחת החמה יהיה נס הישועה על דרך וזרחה לכם יראי שמי שמש צדקה ומרפא בכנפיה [מלאכי ג' כ']." עד כאן לשונו
ובמדרש ר' דוד הנגיד מסופר שאלכסנדר מוקדון ביקש שיקבעו את דמות דיוקנו בבית המקדש. שמעון הצדיק הסביר לו שעל פי התורה יש איסור לעשות פסל וכל תמונה, ובמקום זאת הבטיח לו שכל הילדים שייוולדו לכהנים בשנה ההיא ייקראו בשם אלכסנדר. אכן כך היה, וזהו מקור השם אלכסנדר שנפוץ מאז בעם ישראל.
על פי המסורת, שמעון הצדיק קבור בירושלים על יד שכונת שייח ג'ראח. העדות הידועה הראשונה למסורת בדבר קבורתו נמסרה בשנת ד'תקצ"ה בידי רבי יעקב השליח אשר כתב: "וסמוך לירושלים מערת שמעון הצדיק ותלמידו. הקבר היה שייך לערבי מקומי אשר גבה דמי כניסה עבור הכניסה והתפילה במערה, עד שבשנת ה'תרל"ו רכש הראשון לציון הרב אברהם אשכנזי את האדמה מבעליה הערבים.
על מעלת קברו של שמעון צדיק, מובא בספר נפלאים מעשיך לרבינו יוסף חיים, מעשה שהיה בימי הרה"ק רבי משה גאלאנטי זי"ע שנקרא הרב המג"ן שהיה רב בירושלים לפני מאה חמשים שנה, והיתה שנת בצורת וכמה שהרבו תפילה, לא נענו. עד שלח הפחה אל רבי משה, ואיים עליו כי יגרש את כל היהודים מירושלים אם לא יבוא גשם תוך שלושה ימים. כי היהודים הם האשמים בבצורת. ורבי משה קיבל על עצמו צום במשך שלשה ימים רצוף, בסוף יום השליש ציוה רבי משה לכל אנשי בית הכנסת לבוא עמו לקבר שמעון הצדיק, להתפלל שם בעד הגשם, ובהוא מבקש מכל האנשים והנשים שבאים עמו שיקחו איתם מעילים ומגפיים, כי כשישובו מהקבר ירדו גשמים עזים, וכולם מעו ולא הבינו שכן השמש היתה מאירה בתוקף ועוד אותו יום היה חם מאוד, ואין אפילו ענן אחד לזכר. אבל מתוך אמונה בצדי קיימו את דבריו. וכשיצאו מן שער העיר ראה אותם השומר ביום חמסין לבושים בבגדי חורף מעילים ומגפיים והחל לצחוק ולגלג עליהם, ואף היכה את הרב בפניו. אבל הרב שתק והמשיך בהליכתו, הגיעו לקבר שמעון הצדיק והחלו להשתטח ולבכות ולבקש מהצדיק שימליץ עליהם יושר בשמים ותתבטל הגזירה הנוראה.
ולפתע החלה רוח סערה שהביאה עמה עננים והחל לרדת גשם שוטף, וכשחזרו עם הגשם רץ השומר אל הרב וביקש את סליחתו והרים אותו על כתפיו ונשא אותו עד לביתו. ואז כל הגויים ישמעאלים ונוצרים כאחד כולם הודו כי ה' האלקים בזכות שמעון הצדיק.
למקום קבורתו של שמעון הצדיק נודעה חשיבות וקדושה בקרב יהודי ירושלים. במערה נר תמיד הודלק במערה, ובחצר שמחוץ למערה נערכו חתונותיהם של בני ירושלים אשר מסיבות שונות לא היו יכולים להינשא בתוך העיר. בתקופה בה הנסיעה למירון הייתה קשה או בלתי אפשרית, החלו נערכים בחצר המערה מידי בל"ג בעומר, הילולה לכבוד התנא רבי שמעון בר יוחאי וכמו גם טקסי חאלקה.
תפילה מיוחדת להתפלל על קברו של שמעון הצדיק:
"ריבונו של עולם אלוקי צבקות יושב הכרובים, הנה באתי כהיום להשתטח ולהתפלל על קבר שמעון הצדיק הכהן הגדול, אשר שירת לפניך באמת ובתמים, ולכן אפיל תחינתי לפניך, כי כשם ששמעת את תפילת שמעון הצדיק אשר התפלל על עמך ישראל לפני ולפנים בבית קודש הקדשים, כן תאזין ותקשיב ברחמיך הרבים גם את תפילתי ואת תחינתי אשר הנני מתפלל פה על קברו…".
