Το 1959 φοίτησε στο Πανεπιστήμιο της Μινεάπολης, όπου άκουσε για πρώτη φορά τη μουσική του folk θρύλου Woody Guthrie ο όποιος έγινε το ίνδαλμά του και έφυγε για τη Νέα Υόρκη να τον συναντήσει. Ο Guthrie ο οποίος νοσηλεύοταν σε νοσοκομείο έχρισε τον νεαρό καλλιτέχνη ως διάδοχό του. Εν τω μεταξύ, ο Robert αποφασίζει να μετονομαστεί σε Bob Dylan. Κατά μία εκδοχή, αυτό οφείλεται στην επιρροή από τον Ουαλλό ποιητή Dylan Thomas. To 1960 ξεκίνησε να τραγουδά σε διάφορους μουσικούς χώρους, έχοντας ως πρότυπο του τον Guthrie και άρχισε να αποκτά δημοσιότητα.
Σύντομα, υπέγραψε συμβόλαιο με την πολυεθνική δισκογραφική εταιρεία Columbia. Μέχρι σήμερα ηχογραφεί στην ίδια εταιρεία. Στις αρχές του 1962, κυκλοφόρησε ο πρώτος του δίσκος, με δύο δικά του τραγούδια (Talking New York, Song for Woody) και τα υπόλοιπα διασκευές, μεταξύ των οποίων και το The House of the Rising Sun.
Ο δεύτερος δίσκος του κυκλοφόρησε το 1963 με τίτλο The Freewheelin' Bob Dylan, ο οποίος περιείχε και το πολύ δημοφιλές τραγούδι Blowin' in the wind. Με αυτό τον δίσκο ξέφυγε από τα στενά όρια της folk κοινότητας της Νέας Υόρκης και έγινε ευρύτερα γνωστός.
Η φυσιογνωμία του, ο τρόπος ερμηνείας, οι στίχοι, η μουσική του αλλά και οι ριζοσπαστικές απόψεις του έστρεψαν τα φώτα της δημοσιότητας πάνω του. Απέκτησε ένα ένθερμο κοινό δίνοντας πολλές συναυλίες ενώ οι στίχοι του γίνονταν συνθήματα για τους νέους. Ο Dylan είναι η νέα φωνή της Αμερικής, είναι η διαμαρτυρία, η άρνηση, η αμφισβήτηση, η επανάσταση. Αργότερα όμως, επηρεασμένος από μεγάλους συμβολιστές ποιητές (Baudelaire, Rimbaud και κυρίως τον T. S. Eliot) εγκαταλείπει τα τραγούδια διμαρτυρίας και δημιουργεί πολύπλοκα ροκ ποιήματα.