קיימת מסורת אגדית מדרשית מסועפת, המצרפת את פנחס הקנאי עם קנאי גדול אחר, אליהו-הנביא שעמד לישראל כחמש-מאות שנה לאחר מכן. הסמכה זו בין שני אישים אלה מקבלת במסורת האגדית המופלאה את הניסוח 'הוא פנחס הוא אליהו'.
מקורה של מסורת זו היא כמובן המכנה המשותף של הקנאות. על פנחס בן-אלעזר מעיד ה' במפורש: "בְּקַנְאוֹ אֶת קִנְאָתִי בְּתוֹכָם" (כה, יא) ואליהו-הנביא מעיד על עצמו "קַנא קִנֵּאתִי לַה'" (מלכים א, יט);
ואף מעשיהם לכאורה דומים. פנחס מקנא לה' בהורגו את העבריין זמרי בן-סלוא נשיא בית-אב לשבט שמעון, אשר בחללו את ה' ובהכעיסו בתורתו, העז לבעול בפרהסיה לעיני כל ישראל את המדיינית כזבי בת-צור, וגם אליהו-הנביא הורג בפושעי ישראל נביאי הבעל והאשרה.
המדרש מספר לנו על ויכוח שהתנהל בין הקדוש ברוך-הוא לבין אליהו, בו מנסה אליהו להצדיק את מעשיו בכך שהרג את נביאי הבעל והרס את מזבחותיו, ועל כי ברוב יאושו מחליט אליהו להתרחק מעל בני עמו החוטאים ולהתבודד במדבר.
וכך אומר המדרש: 'אמר לו הקדוש ברוך-הוא: אתה אומר: "כי עזבו בריתך בני ישראל", שמא בריתך עזבו? והרי את בריתי עזבו ולא את בריתך!"; בדברים קצרים אלה מתכוון המדרש לומר, האם אתה אליהו קינאת כאן את קינאתי, או שמא אתה הוא שנפגעת משום אמונתך בה', ובגלל עבודת הבעל המעסיקה את ישראל נסחפת ברגשותיך, וסערת רוחך היא זו שהביאה אותך לידי הדחף למעשה הקינאה שלך וכל מה שנבע מכך?
לפנינו כאן רעיון עמוק מאוד, ומחובתו של אדם לדעת להבחין בין קנאתו לה' לבין קנאה שהוא מקנא לדברים שיקרים בעיניו, ואפילו אם דבר יקר זה קשור בעבודת-ה';
והמדרש ממשיך: 'וכשהוסיף אליהו ואמר: "את מזבחותיך הרסו", אמר לו הקדוש ברוך-הוא: שמא מזבחותיך הם? והרי את מזבחותי הרסו ולא את מזבחותיך!"
הדברים עמוקים שהרי אפילו אם ישראל הרסו מזבחות ה', אל יקנא אדם לה' צבאות יותר מאשר הקדוש ברוך-הוא בעצמו מקנא לעצמו; משמע, אם אני ה' ארך אפים ומאריך אפי לחוטאים, מי הסמיכך לקנא את קנאתי, ומה לך שאתה כה מתמרמר, כאשר ישראל עוזבים בריתי, ואף על פי כן אני נוהג בהם במידת החסד!
