אחרי תפילת המנחה ביום הראשון של ראש השנה, נוהגים ללכת על יד שפת הים או הנהר, או באר מים חיים, או בור, לומר "סדר תשליך". ומנהג זה נזכר עם טעמו בספר מנהגי מהר"י מולין: "שמנהג ללכת בראש השנה אצל ים או נהר, להשליך במצולות ים כל חטאתינו, והטעם לזה, על פי מה שאמרו במדרש, שכאשר הלך אברהם אבינו עם יצחק אל הר המוריה להעלותו לעולה, כאשר נצטווה מפי הקדוש ברוך הוא, קדמו השטן בדרך, והתחיל להסית את אברהם ולמונעו ממצות השם יתברך, וכאשר ראה שאינו מצליח לשכנע את אברהם להמנע מהקרבת בנו יצחק לעולה, הלך השטן ונעשה לפניהם כנהר גדול כדי שלא יוכלו לעבור, ואברהם ויצחק לא התייחסו לזה, ונכנסו למים עד שהגיעו לצוארם, ואז נשא אברהם אבינו את עיניו למרום ואמר, ריבונו של עולם! אתה נגלית אלי ואמרת, קַח נָא אֶת בִּנְךָ אֶת יְחִידְךָ אֲשֶׁר אָהַבְתָּ אֶת יִצְחָק, וְלֶךְ לְךָ אֶל אֶרֶץ הַמֹּרִיָּה, וְהַעֲלֵהוּ שָׁם לְעֹלָה עַל אַחַד הֶהָרִים אֲשֶׁר אֹמַר אֵלֶיךָ, ולא הרהרתי אחר דבריך, ולא עכבתי מאמריך, ועתה אם אנו טובעים בנהר, מי ייחד את שמך הגדול? הושיעיני אלקים כי באו מים עד נפש! מיד גער הקדוש ברוך הוא בשטן והלך לו.
ומבואר בזוהר הקדוש שעקידת יצחק הייתה בראש השנה, ולכן קוראים בתורה בראש השנה בפרשת עקידת יצחק, ולכן מטעם זה גם כן נוהגים ללכת לנהר לומר תשליך, להזכיר זכות אברהם ויצחק.
ועוד טעם למנהג התשליך הובא בסידור אהלי יעקב, שמכיוון שמבואר בגמרא במסכת הוריות (יב.) שכאשר מושחים מלך למלכות, מושחים אותו על יד המעין כדי שתמשך מלכותו. וכן אמר רב משרשיא לבניו, כשאתם גורסים בתלמוד, גירסו על שפת הים או על שפת הנהר, לסימן טוב, שכשם שהמים הללו נמשכים והולכים, כך תימשך גירסתכם ולא תשכחוה. ומכיוון שאנו עושים בראש השנה הרבה דברים לסימן טוב, לכן נוהגים גם ללכת לשפת הנהר לסימן טוב, שימשכו לנו חסדי השם יתברך ורחמיו לכתוב אותנו לחיים טובים ולשלום ולמחול כל חטאתינו. כמאמר הכתוב "הנני נוטה אליך כנהר שלום".
עוד יש למנהג התשליך טעמים על פי הקבלה, והם טעמים עיקריים שמסבירים את כל ענין התשליך. ומרן זצ"ל, שהיה בדרך כלל נוהג במנהגי הפשטנים, מכל מקום באמירת התשליך היה קורא את כל לשון הזוהר שמובא במחזורים בסדר תשליך, ואחר כך היה אומר את כל נוסח התפילה שתיקן מרן החיד"א (וגם הוא מודפס בזמנינו במחזורים). ובשנים האחרונות היו נוהגים בבית מדרשו להביא כלי גדול מלא מים למרפסת בית הכנסת, והיו יוצאים הקהל החוצה ואומרים "תשליך". וכששאל מישהו את מרן זצ"ל, מה הקשר בין דברי הזוהר שאומרים בשעת התשליך לבין מנהג התשליך? היסה אותו מרן זצ"ל, באמרו "זו שאלה שלא שואלים", כי כל אדם צריך לדעת את מקומו.
נשים, אינן צריכות לומר תשליך, ואשה שבכל זאת רוצה לומר תשליך, יכולה לאמרו, אבל צריך להזהר מאד, ולחשב שכר מצוה כנגד הפסדה, כי בהרבה מקומות הנשים הולכות עם האנשים למקום התשליך, ויש חוסר צניעות בדבר, ויש להזהר בזה בפרט ביום ראש השנה, שהוא יום הדין, ומדקדקים בו במעשינו מאד מאד, והרי אין דבר יפה מן הצניעות, בפרט בימים אלה, וכפי שהיה מרן זצ"ל מזהיר, לגבי נשים ההולכות בפאה נכרית, שאף כי הדבר באמת אסור לגמרי לדעתו זצ"ל, בכל ימות השנה, מכל מקום בימי התשובה, יש להחמיר בזה ביתר שאת, ובזכות הצניעות נגאלו ישראל, ועתידין להגאל.