Jan de Yepez urodził się w ubogiej rodzinie w Fontiveros niedaleko Avili w 1542 roku.
Rodziny nie stać było na posłanie go do szkoły. Po kolei zdobywał różnego rodzaju zawody: tkacza, krawca i pielęgniarza w szpitalu. Uzbierawszy odpowiednią sumę pieniędzy zaczął naukę w szkole prowadzonej przez jezuitów w Medina del Campo. Mając 21 lat, wstąpił do zakonu karmelitów. Zakon ten przeżywał w drugiej połowie XVI wieku duchowy kryzys, brak mu było gorliwości apostolskiej, dlatego Jan w rok po święceniach zastanawiał się, czy go nie opuścić, by kontynuować swoje życie zakonne w odosobnieniu, w klasztorze kartuzów.
W dniu swojej Mszy prymicyjnej spotkał św. Teresę z Avila, która podjęła się dzieła reformy żeńskiej gałęzi Karmelu. Te dwie bratnie dusze zrozumiały się i postanowiły wytężyć wszystkie siły dla reformy obu rodzin karmelitańskich. W następnym roku św. Teresa namówiła pewnego szlachcica, żeby ofiarował dom w Duruelo na założenie pierwszej fundacji reformy. Tam przeniósł się Jan wraz z dwoma przyjaciółmi, których pozyskał dla reformy. 28 listopada 1568 r. złożyli ślub zachowania pierwotnej reguły. Jan przybrał sobie wówczas imię Jana od Krzyża. Postanowił pozostać wierny reformie, choćby “miał to przypłacić życiem”. Wkrótce okazało się, że będzie miał okazję dać dowód tej wierności. W latach 1569-1571 został wybrany na mistrza nowicjatu. W roku 1570 musiał jednak przenieść klasztor do Pastrany. W roku 1571 został rektorem pierwszego klasztoru karmelitów w Alcali, który przyjął reformę. Równocześnie pełnił obowiązki spowiednika karmelitanek zreformowanych w Avila (1572-1577).
W postępowaniu Jana przełożeni dopatrzyli się niesubordynacji. Obawiali się rozkładu zakonu. Posypały się napomnienia i nakazy. Gdy Jan okazywał się na nie głuchy, został aresztowany w Avila w nocy z dnia 2 na 3 grudnia 1577 roku i siłą zabrany do Toledo. Wtrącony do więzienia klasztornego, był nie tylko pozbawiony wolności, ale skazany na głód i częstą chłostę. “Noce ciemne” długiego więzienia wykorzystał dla doświadczenia nie mniej bolesnego stanu, kiedy Pan Bóg pozornie opuszcza swoich wybranych, by ich zupełnie oczyścić i ogołocić z niepożądanych pragnień, uczuć i przywiązań.
15 sierpnia 1578 roku udało mu się uciec z zakonnego więzienia w Toledo po długich i żmudnych do tego przygotowaniach. Bracia z własnego klasztoru przyjęli go z wielką radością. 9 października tego roku wziął udział w kapitule, na której został wybrany przełożonym konwentu w Jaen, w Andaluzji. W roku następnym (1579) otworzył nowy dom reformy, w Baeza, gdzie pozostał jako przełożony do 1582 r. W roku 1581 z domów zreformowanych karmelitów utworzona została osobna prowincja. Zezwolił na to papież Grzegorz XIII specjalnym breve z 22 lipca 1580 roku.
Cierpienia Jana podjęte dla reformy zaczęły owocować. Gorliwi zakonnicy widzieli w nim męczennika sprawy i zaczęli przekonywać się do reformy. Mnożyły się także nowe fundacje dzięki hojności panów duchownych i świeckich. W roku 1582 Jan został mianowany przełożonym domu w Granadzie, a trzy lata później kapituła wybrała go wikariuszem prowincji Andaluzja. W 1587 r. zrzekł się tego urzędu i został ponownie mianowany przełożonym konwentu w Granadzie. Kiedy liczba zreformowanych klasztorów zaczęła rosnąć i powstawały nowe prowincje, papież Sykstus V zezwolił na wybór osobnego wikariusza generalnego dla prowincji zreformowanych, ale generał miał być jeszcze wspólny dla obu rodzin karmelu. Papież miał bowiem nadzieję, że niebawem cały zakon przyjmie reformę. W roku 1588 odbyła się pierwsza kapituła generalna prowincji zreformowanych.
Jednak stronnictwo złagodzonej reguły wzięło górę. Jan został usunięty ze wszystkich urzędów i jako zwykły zakonnik zakończył niebawem życie w klasztorze w Ubedzie 14 grudnia 1591 roku w wieku zaledwie 49 lat. Umierał zupełnie osamotniony, bowiem św. Teresa z Avila dawno już nie żyła – przeszła do nieba 4 października 1582 roku.
Beatyfikowany został przez papieża Klemensa X w 1591 r., a kanonizowany w 1726 r. przez Benedykta XIII. Pius XI ogłosił go doktorem Kościoła w 1926 r.