Arthur Ira (Art) Garfunkel ​ est né le 5 novembre 1941 à Forest Hills, New York, de Rose et Jack Garfunkel. Il a 2 frères : Jules l'aîné et Jérôme le cadet. ​ Ses ancêtres sont des Juifs moldaves. ​ Jack, un voyageur de commerce, a senti l'enthousiasme de son fils pour la musique et a acheté à Garfunkel un magnétophone. À l'âge de quatre ans, Garfunkel était déjà assis pendant des heures devant un magnétophone ; chanté, écouté et réglé sa voix, puis l'a réenregistrée. "Cela m'a fait aimer encore plus la musique. Pouvoir chanter et surtout enregistrer, c'est tout simplement merveilleux", se souvient-il. ​ À l'école primaire de Forest Hills, le jeune Art Garfunkel était connu pour chanter des chansons dans des couloirs vides et jouer dans des pièces de théâtre. En 6e année, il a participé à la pièce de théâtre "Alice au pays des merveilles" avec son camarade de classe Paul Simon.