רבי שמואל ביקר פעם אצל רבנו תם, אחד מבעלי התוספות המפורסמים ביותר, כשהוא מחופש לרוכל עני הזקוק לארוחה חמה וללינת לילה. הוא נשאר שם ימים אחדים, ישב בשקט מאחורי הכיריים והאזין ללימודו של הלמדן הגדול, שתלמידיו סבבוהו. רק כאשר שכח לרגע את "התפקיד" אשר הוא משחק ותיקן כמה מהדברים הנאמרים, נודע לרבנו תם ולתמידיו כי האורח העני אינו אלא ראש ישיבת אשפירא.

כפי המסופר לא נמשך רבי יהודה בצעירותו אחר הלימודים. הוא העדיף להסתובב בשדות ולשחק בקשת וחץ. הוא עשה חיל בשטח זה והשיג כמה פרסים בתחרויות לקליעה למטרה, בהן השתתף יחד עם נכבדי ארץ הריינוס. בגיל 18 קרה לו דבר ששינה את כל מהלך חייו תכלית שינוי. הוא הפך לתלמיד נאמן של אביו, הן בהתנהגות יהודית והן בלימודי הקודש.

בין אם סיפור זה נכון ובין אם לאו, ברור כי רבי יהודה היה מסוגל להתגבר על כל המכשולים שנערמו בדרכו בצעירותו. הוא הגיע לדרגתו הגבוהה של גדול בישראל המשמש דוגמה חיה לעם היהודי כולו.

למזלו הרע, נפטר אביו בהיותו צעיר לימים. לאחר מכן, כאשר התקפות כנופיות הצלבנים לא נתנו ליהודי אשפירא להמשיך בחייהם השלווים שהיו חיי תורה ומסחר, היה ר' יהודה החסיד בין אלה שנדדו דרומה כדי להמלט מצפרני הכנופיות האכזריות, שנות הסבל והנסיון המר שהיה לו עם שכניו הגויים, הטביעו חותמם על ספרו, "ספר החסידים", העוסק בין היתר בצורת התנהגות היהודי אל שכנו הגוי.

ר' יהודה נדד בעמק הריינוס ודרכו עברה בערים שקהילתן היהודית הפורחת נפלה קורבן להשתוללות הצלבנים. לאחר מכן נסע לאורך הדנובה כדי למצוא מקום שקט, להתיישב בו ולבנות את החיים היהודיים מחדש. הוא בחר בעיר רגנשבורג (רטיסבון), בה שלטו נסיכים נאורים שיחסם אל היהודים היה חיובי. שליטים אלה עמדו חיש מהר על גדולתו של רבי יהודה והכניסוהו בחוג אנשי המדע והמלומדים שהיו מבאי ביתם. כך נהג הבישוף המקומי לבלות ערבים שלמים בחברת רבי יהודה. הדוכס של רגנשבורג שאל אותו שאלות בענייני אסטרונומיה ואסטרולוגיה. ר' חיים יוסף אזולאי (החיד"א), אחד הגאונים והחכמים המפורסמים שעבר יבשות בתורו אחרי כתב-יד יהודים עתיקים מעיד כי ראה חיבור על אסטרונומיה של ר' יהודה החסיד בשם "גמטריאות".

הפליט המפורסם מאשפירא פתח ישיבה ברגנשבורג. ישיבה זו הוציאה במשך הזמן ענקי רוח, כמו אליעזר מוורמיזא, שהיה ידוע בכינויו (על שם החיבור הנחשב למפעל חייו) לבעל "הרוקח". יחד עימו למד תלמיד אחר של ר' יהודה החסיד, הלא הוא ר' יצחק בן משה, בעל "אור זרוע" שהכרעותיו ההילכתיות נתקבלו על-ידי יהודי אוסטריה, הונגריה, מורביה ואיטליה במשך מאות בשנים.

תלמיד שלישי מפורסם אף הוא היה בעל התוספות ומחבר "ספר החכמה", ר' ברוך בן שמואל ממגנצה.

אלה רק המפורסמים ביותר מבין מאות תלמידיו שישבו לרגליו ושתו בצמא את דבריו. בינהם היה גם הנוסע המפורסם ר' פתחיה מרגנשבורג שאת רשימותיו אסף וערך ר' יהודה. החיבור יצא לאור לאחר-מכן ע"י תלמידי ר' יהודה בשם "סיבוב ר' פתחיה". 

 
רבי יהודה החסיד, הידוע בעיקר מחיבוריו בעלי התוכן המוסרי, היה גם בעל הלכה גדול, אם כי הוא שלל את שיטת ה"פלפול" והגדירה כבלתי יעילה ללימוד התלמוד שכל ענינו הוא מעשה, התנהגות חסידית הולמת ולא תיאוריה בלבד ולא פלפול לשם פלפול. רבים מבני דורו פנו אליו בשאלות הילכתיות והוא השיב להם. לא אחת מוצאים אנו הדים מתשובותיו בחיבוריהם של השואלים. ר' מאיר מרוטנברג מצטט אות פעמים אחדות ותלמידו, בעל "אור זרוע" מזכיר את "מורי ורבי הדגול" כמקור ויסוד לרבות מהכרעותיו ההילכתיות. מעטים מכירים את הספר "גן בושם", שהוא מעין אוסף הלכות של ר' יהודה החסיד, תלמידיו הכינו רשימות משיעוריו השבועיים בפרשת השבוע, אולם אין בידינו, לצערינו, חיבור שלם של פרושים אלה.

יותר מאשר עבודתו בשטח ההלכה, ידועה תרומתו של ר' יהודה החסיד, לסידור התפילה, בו הוא הוסיף פיוטים שונים הנאמרים ע"י הרבה קהילות. בין פיוטים אלה נמנים, שירי היחוד, שיר הכבוד והסליחות כ"אלוקים בישראל גדול יחודיך". "אזכרה יום מותי", "יחבא דמעתי" ופיוטים רבים אחרים.

מפעל חייו של ר' יהודה החסיד היה, כאמור "ספר חסידים". בספר זה הוא הנציח את תורת אביו המנוח ופיתח אותה לשיטה שלמה של חסידות ואמונה. אכן חוקרים רבים מיחסים את שני הפרקים הראשונים של הספר ("ספר היראה" ו"ספר התשובה") לרבי שמואל החסיד, אביו. אם כך או כך, העיקר הוא כי רבי יהודה החסיד ריכז אל כל מאמציו כדי ללמד את בני-ישראל את חשיבותה של התפילה התמה, והכרחיותם של היושר והכנות ביחסים שבין אדם למקום ושבין אדם לחברו. דברים אלה – הוא לימד – חשובים לאין ערוך מכל המדעים, ההשכלה וההתנהגות מתחסדת שלא לשמה. התפילה צריכה לנבוע מעומק הלב ולא להיות מס שפתיים גרידא. "כי מה שווה התפילה אם הלב לא יודע מה שהשפתים מרחשות" – שאל בחומרה.

ר' יהודה השתמש לעתים בסיפורי מעשיות, כדי להמחיש את רעיונותיו. הוא מדבר גלויות ובמרירות יוצאת מגדר הרגיל על גויי הסביבה ונראה שנסיונותיו המרים עם הצלבנים הרצחניים, הם הם שגרמו ליחסו הקיצוני אליהם. הוא אוסר על היהודי להציל את חייו, על-ידי שימוש, ולו למראית עין בלבד, בסמלים גויים או על-ידי ביקור בכנסיה.

קשה למצוא שטח משטחי האמונה או ההלכה שר' יהודה לא נגע בו בספרו הגדול. תלמידו, רבי אלעזר בעל "הרוקח", עבר על כתב היד, אחרי מותו של רבו והוסיף בו הוספות אחדות. היה זה הספר היהודי הנדפס ביותר המופץ ביותר בעולם היהודי אשר חיוניותו ופופולריותו לא פגו עד היום הזה.