(א) וַיָּבֹ֣אוּ בְנֵֽי־יִ֠שְׂרָאֵל כָּל־הָ֨עֵדָ֤ה מִדְבַּר־צִן֙ בַּחֹ֣דֶשׁ הָֽרִאשׁ֔וֹן וַיֵּ֥שֶׁב הָעָ֖ם בְּקָדֵ֑שׁ וַתָּ֤מָת שָׁם֙ מִרְיָ֔ם וַתִּקָּבֵ֖ר שָֽׁם׃ (ב) וְלֹא־הָ֥יָה מַ֖יִם לָעֵדָ֑ה וַיִּקָּ֣הֲל֔וּ עַל־מֹשֶׁ֖ה וְעַֽל־אַהֲרֹֽן׃ (ג) וַיָּ֥רֶב הָעָ֖ם עִם־מֹשֶׁ֑ה וַיֹּאמְר֣וּ לֵאמֹ֔ר וְל֥וּ גָוַ֛עְנוּ בִּגְוַ֥ע אַחֵ֖ינוּ לִפְנֵ֥י ה' (ד) וְלָמָ֤ה הֲבֵאתֶם֙ אֶת־קְהַ֣ל ה' אֶל־הַמִּדְבָּ֖ר הַזֶּ֑ה לָמ֣וּת שָׁ֔ם אֲנַ֖חְנוּ וּבְעִירֵֽנוּ׃ (ה) וְלָמָ֤ה הֶֽעֱלִיתֻ֙נוּ֙ מִמִּצְרַ֔יִם לְהָבִ֣יא אֹתָ֔נוּ אֶל־הַמָּק֥וֹם הָרָ֖ע הַזֶּ֑ה לֹ֣א ׀ מְק֣וֹם זֶ֗רַע וּתְאֵנָ֤ה וְגֶ֙פֶן֙ וְרִמּ֔וֹן וּמַ֥יִם אַ֖יִן לִשְׁתּֽוֹת׃ (ו) וַיָּבֹא֩ מֹשֶׁ֨ה וְאַהֲרֹ֜ן מִפְּנֵ֣י הַקָּהָ֗ל אֶל־פֶּ֙תַח֙ אֹ֣הֶל מוֹעֵ֔ד וַֽיִּפְּל֖וּ עַל־פְּנֵיהֶ֑ם וַיֵּרָ֥א כְבוֹד־ה' אֲלֵיהֶֽם׃ (פ) (ז) וַיְדַבֵּ֥ר ה' אֶל־מֹשֶׁ֥ה לֵּאמֹֽר׃ (ח) קַ֣ח אֶת־הַמַּטֶּ֗ה וְהַקְהֵ֤ל אֶת־הָעֵדָה֙ אַתָּה֙ וְאַהֲרֹ֣ן אָחִ֔יךָ וְדִבַּרְתֶּ֧ם אֶל־הַסֶּ֛לַע לְעֵינֵיהֶ֖ם וְנָתַ֣ן מֵימָ֑יו וְהוֹצֵאתָ֨ לָהֶ֥ם מַ֙יִם֙ מִן־הַסֶּ֔לַע וְהִשְׁקִיתָ֥ אֶת־הָעֵדָ֖ה וְאֶת־בְּעִירָֽם׃ (ט) וַיִּקַּ֥ח מֹשֶׁ֛ה אֶת־הַמַּטֶּ֖ה מִלִּפְנֵ֣י ה' כַּאֲשֶׁ֖ר צִוָּֽהוּ׃ (י) וַיַּקְהִ֜לוּ מֹשֶׁ֧ה וְאַהֲרֹ֛ן אֶת־הַקָּהָ֖ל אֶל־פְּנֵ֣י הַסָּ֑לַע וַיֹּ֣אמֶר לָהֶ֗ם שִׁמְעוּ־נָא֙ הַמֹּרִ֔ים הֲמִן־הַסֶּ֣לַע הַזֶּ֔ה נוֹצִ֥יא לָכֶ֖ם מָֽיִם׃ (יא) וַיָּ֨רֶם מֹשֶׁ֜ה אֶת־יָד֗וֹ וַיַּ֧ךְ אֶת־הַסֶּ֛לַע בְּמַטֵּ֖הוּ פַּעֲמָ֑יִם וַיֵּצְאוּ֙ מַ֣יִם רַבִּ֔ים וַתֵּ֥שְׁתְּ הָעֵדָ֖ה וּבְעִירָֽם׃ (ס) (יב) וַיֹּ֣אמֶר ה' אֶל־מֹשֶׁ֣ה וְאֶֽל־אַהֲרֹן֒ יַ֚עַן לֹא־הֶאֱמַנְתֶּ֣ם בִּ֔י לְהַ֨קְדִּישֵׁ֔נִי לְעֵינֵ֖י בְּנֵ֣י יִשְׂרָאֵ֑ל לָכֵ֗ן לֹ֤א תָבִ֙יאוּ֙ אֶת־הַקָּהָ֣ל הַזֶּ֔ה אֶל־הָאָ֖רֶץ אֲשֶׁר־נָתַ֥תִּי לָהֶֽם׃ (יג) הֵ֚מָּה מֵ֣י מְרִיבָ֔ה אֲשֶׁר־רָב֥וּ בְנֵֽי־יִשְׂרָאֵ֖ל אֶת־ה' וַיִּקָּדֵ֖שׁ בָּֽם׃ (ס)
(1) The Israelites arrived in a body at the wilderness of Zin on the first new moon, and the people stayed at Kadesh. Miriam died there and was buried there. (2) The community was without water, and they joined against Moses and Aaron. (3) The people quarreled with Moses, saying, “If only we had perished when our brothers perished at the instance of the LORD! (4) Why have you brought the LORD’s congregation into this wilderness for us and our beasts to die there? (5) Why did you make us leave Egypt to bring us to this wretched place, a place with no grain or figs or vines or pomegranates? There is not even water to drink!” (6) Moses and Aaron came away from the congregation to the entrance of the Tent of Meeting, and fell on their faces. The Presence of the LORD appeared to them, (7) and the LORD spoke to Moses, saying, (8) “You and your brother Aaron take the rod and assemble the community, and before their very eyes order the rock to yield its water. Thus you shall produce water for them from the rock and provide drink for the congregation and their beasts.” (9) Moses took the rod from before the LORD, as He had commanded him. (10) Moses and Aaron assembled the congregation in front of the rock; and he said to them, “Listen, you rebels, shall we get water for you out of this rock?” (11) And Moses raised his hand and struck the rock twice with his rod. Out came copious water, and the community and their beasts drank. (12) But the LORD said to Moses and Aaron, “Because you did not trust Me enough to affirm My sanctity in the sight of the Israelite people, therefore you shall not lead this congregation into the land that I have given them.” (13) Those are the Waters of Meribah—meaning that the Israelites quarrelled with the LORD—through which He affirmed His sanctity.
(י) ויאמר להם שמעו נא המורים - כמו שהמטה הזה שיש בו שקדים מוכיח שהוא - למשמרת לאות לבני מרי.
(10) ויאמר להם שמעו נא המורים, just as this staff produced almonds as a reminder of the last rebellious generation, are we to produce water from you from this rock?
והפירוש הנכון בעיני אגלנו ברמיזות דע כי כאשר ידע החלק את הכל ידבק בכל ויחדש בכל אותות ומופתים ואמת כי השם אמר למשה ולאהרן ודברתם ולא דברו בעבור מריבת העם עם משה והנה החלק חלק והכה הסלע ולא יצאו מים עד שהכהו פעם שנית והנה לא קדשו השם ומרו ומעלו בשגגה גם יוכל המפרש לפרש ויבטא בשפתיו על משה כי על כן נענש כי לא היה ראוי שידבר דבר עד שימלא שליחות השם גם יהיה דרש קדמונינו ז''ל כי החטא היה בעבור שאמר שמעו נא המורים ורמזו זה הסוד
And the explanation which appears right to me I will explain by hint...
For he hit the rock and water did not come out until he hit the rock a second time, therefore they did not sanctify and rebelled.
(כה) וַיֹּ֨אמֶר ה' אֶל־מֹשֶׁ֗ה הָשֵׁ֞ב אֶת־מַטֵּ֤ה אַהֲרֹן֙ לִפְנֵ֣י הָעֵד֔וּת לְמִשְׁמֶ֥רֶת לְא֖וֹת לִבְנֵי־מֶ֑רִי וּתְכַ֧ל תְּלוּנֹּתָ֛ם מֵעָלַ֖י וְלֹ֥א יָמֻֽתוּ׃ (כו) וַיַּ֖עַשׂ מֹשֶׁ֑ה כַּאֲשֶׁ֨ר צִוָּ֧ה ה' אֹת֖וֹ כֵּ֥ן עָשָֽׂה׃ (ס)
(ח) ודברתם אל הסלע ולא אמר והכיתם שאלו דברו היה הקב"ה מתקדש לעיני כל העדה ואומרים ומה סלע זה שאינו שומע ואינו מדבר מקיים דברו של הקב"ה אנו על אחת כמה וכמה ודברי אגדה הם אבל לא נתחוורו כי מאחר שצוה קח את המטה יש במשמע שיכה בו ואלו היה רצונו בדבור בלבד מה המטה הזה בידו וכן במכות מצרים שאמר (שמות ז טו) והמטה אשר נהפך לנחש תקח בידך והוא להכות בו ולפעמים יאמר נטה את ידך ורצונו לומר להכות במטה כי הכתוב יקצר בדבר הנשמע ואין הנס גדול בדבור יותר מההכאה כי הכל שוה אצל הסלע... וה"ר רבי משה (סוף פ"ד משמנה פרקים) סבר בו סברא ואמר כי משה רבינו ע"ה חטאו הוא שנטה לצד הרגזנות באמרו שמעו נא המורים דקדק עליו הש"י שיהיה אדם כמוהו כועס לפני עדת בני ישראל במקום שאין ראוי בו הכעס וכל כיוצא בזה בדין האיש ההוא חלול השם... ואיך יראה עליו הכעס והוא מן הפעולות הרעות...
והקרוב מן הדברים שנאמרו בזה והוא טוב לדחות השואל הם דברי רבינו חננאל שכתב כי החטא הוא אמרם (פסוק י) המן הסלע הזה נוציא לכם מים וראוי שיאמרו יוציא ה' לכם מים כדרך שאמרו (שמות טז ח) בתת ה' לכם בערב בשר לאכול וגו' וכן בכל הנסים יודיעום כי ה' יעשה עמהם להפליא ואולי חשבו העם כי משה ואהרן בחכמתם הוציאו להם מים מן הסלע הזה וזהו לא קדשתם אותי (דברים לב נא)...
It did not say hit the rock rather speak, to create a sanctification of Hashem's name, that a rock which neither hears nor speaks does the will of Hashem, how much more so the children of Israel. And this is a midrash (Rashi) but these words are not completely logical, for after Hashem said take your staff, it implies that he might use it to hit the rock. For if Hashem wanted him to only speak, why did he need the stick?...
The Rambam gave his logical reasoning that Moshe's sin is that he lost his temper by saying listen ye o rebels. Hashem was stringent with him that he was angry in front of all of Israel in a place where anger was not proper...
And the best explanation given on this matter which will answer the questioner is that given by Rabenu Chananel who wrote that the sin is their saying: "Shall we take water out from the rock" where they should have said "Shall Hashem take water from the rock"