Хендрикс родился в Сиэтле, в штате Вашингтон, и получил имя Джонни Аллен Хендрикс. Родители — Эл Хендрикс и Люсиль Джетер. Отец Хендрикса, вернувшись с войны, дал ему новое имя — Джеймс Маршалл. На Хендрикса оказали огромное влияние события в семье — развод родителей в 1951 году, смерть матери. Джими был близок со своей бабушкой Норой Розой Мур. Нора, чей отец был наполовину ирландцем и наполовину чероки, а мать мулаткой, воспитала в Джими гордость за его американское происхождение. Дед и бабушка Джими были актёрами варьете в Ванкувере, где родился Эл Хендрикс. Эл переехал в Сиэтл, когда женился на Люсиль. После смерти Люсиль Эл купил Джими акустическую гитару за 5 долларов, определив этим его будущее.

После того как Хендрикс поиграл с несколькими местными сиэтлскими группами, он был приговорен к 2 годам заключения за угон машины. Но его адвокат смог изменить приговор на 2 года службы в армии, в 101-й воздушно-десантной дивизии. Меньше чем через год его уволили из армии из-за травмы полученной при прыжке с парашютом. В армии Хендрикса характеризовали как очень плохого солдата: он постоянно спал на посту, ему нельзя было поручить ни одного дела. По словам одного из офицеров, «у него не было ни одного положительного качествa.

После возвращения из армии Хендрикс и его друг Билли Кокс переехали в Нэшвилл, там они играли, а иногда и жили, в клубах на улице Джеферсона — традиционном центре чёрного сообщества Нэшвилла. В начале 1960-х Хендрикс выступал в группах, игравших на разогреве у таких музыкантов, как Кёртис Найт, Би Би Кинг и Литл Ричард. 1965—1966 15 октября 1965 года Хендрикс подписал трехлетний контракт с Эдом Чалпином, согласно которому он получал 1$ и 1 % гонорара, записываясь с Кёртисом Найтом. Этот контракт позже стал причиной судебной тяжбы между Хендриксом и звукозаписывающими фирмами.К 1966 году у Хендрикса была собственная группа «Jimmy James and The Blue Flames» и постоянная работа в клубе Cafe Wha? в Нью-Йорке. В этот период Хендрикс познакомился и работал вместе с гитаристами Джефом Бакстером и Эллен Макилвэйн. Хендрикс стал близким другом гитариста по имени Рэнди Калифорния, который позже стал одним из основателей группы «Spirit». Также Хендрикс познакомился с Фрэнком Заппой. Заппа познакомил Джими с только что изобретенной педалью эффектов «вау-вау» (wah-wah) — инструментом, который Джими освоил в совершенстве, и который стал впоследствии неотъемлемым элементом его «фирменного» звучания.