A jövőbeli gerillák elkezdték a felkészülési programot, óvatosan, nehogy felkeltsék a hatóságok figyelmét. Hosszú sétákat tettek, eveztek a Chapultepec Park taván, megmászták a közeli hegyeket. Ernesto, ha éppen nem kellett a munkahelyén lennie, csatlakozott hozzájuk és néha orvosi segítséget nyújtott a kubai társainak. Március végén Castro talált egy helyet Santa Fé-ben (Mexikóváros  külvárosában) ahol lőgyakorlatokat végezhettek. Ernesto ekkor hagyta abba a kutatását és csatlakozott a harcostársaihoz, hogy annyit gyakorlatozhasson, amennyit csak tudott. Esténként politikát tanultak, és Alberto Bayo ezredes, a spanyol polgárháború veteránja, bevezette őket a gerillaharc rejtelmeibe.
Amikor a csoport nagyobb lett, Chalco-ban, úgy negyven kilométerre a fővárostól vásároltak egy félreeső házat, ahol folytathatták a gyakorlatozást. Megtanultak lőni, a fegyverrel bánni és más dolgokat, amiket egy gerillának tudnia kellett. Ernesto/Che lett a csoport vezetője, ő volt az, aki aláírta a bérleti szerződést és nem sokkal később már ő vezette a hosszú, éjszakai meneteléseket, amikor a harcosok órákon át gyalogoltak a hegyekben, a nehéz hátizsákjukkal megpakolva. Che még arra is talált időt, hogy néha az ezredessel sakkozott.

Júniusban felfedezték a csapat tevékenységét, néhány tagot azonnal le is tartóztattak - még María Antonia-t is, akinek az otthonát átkutatták. A mexikói újság, az Excelsior megjelentetett egy cikket, amelyben közölte, hogy "hét kommunista szervezkedett Batista ellen". Hilda a kisbabájával együtt szintén őrizetbe került. Hogy elkerülje a vérontást, Castro elvezette a rendőrséget a házhoz, ahol letartóztatták az ott talált harcosokat - Che-t is - és a Calle Miguel Schultz 136 alatti börtönbe vitték őket. Mindannyiójukat kihallgatták, de már korábban megtanulták, hogyan válaszoljanak anélkül, hogy használható információt adjanak ki.
Azok a harcosok, akiket nem sikerült elfogni, elrejtették a megmaradt fegyvereket és felszerelést, és kampányt szerveztek Castro és a bajtársaik kiszabadítása érdekében. Hilda ruhákat és ételt vitt Che-nek, anélkül, hogy látta volna őt - két héten keresztül. Eközben Che visszautasította, hogy argentín segítséggel kiszabaduljon a börtönből, mert osztozni akart a kubai bajtársai sorsában.
A börtönben a csapat tanult, játszott, olvasott - Che matematikát és közgazdaságtant tanult. Egyszerre több emberrel sakkozott - a különböző sakktáblák lépéseit memorizálva.

Július 9-én a legtöbb letartóztatott kiszabadult - kivéve Che, Castro, Calixto García és Jimmy Hirzel. Hirzel hamarosan szintén kiszabadult, de a másik három férfinak még több hetet el kellett töltenie a börtönben. Castro és Che megvitatták a politikai nézeteiket és a jövőbeli terveiket, és a barátságuk még szorosabb lett.
Július 17-én Che ezt írta az édesanyjának: "Nem vagyok sem Krisztus, sem emberbarát, pontosan az ellentéte vagyok egy Krisztusnak... azokért a dolgokért, amikben hiszek, minden lehetséges eszközzel harcolok és megpróbálok végezni az ellenfelemmel, ahelyett, hogy hagynám, hogy egy kereszthez vagy máshova szegezzenek." Hevesen visszautasította még a lehetőségét is annak, hogy olyan élete legyen, amilyet a szülei elképzeltek a számára. A harci felkészülés és a börtön megkeményítette őt a forradalmár élethez.

Július 24-én Fidel Castro elhagyta a börtönt - Che és Calixto csak augusztus 14-én szabadult. Mielőtt Castro távozott, Che elmondta neki, hogy megértené, ha hátrahagynák őt, de Fidel megtagadta, hogy nélküle induljanak Kubába. Miután kiszabadult, Che-nek minél hamarabb el kellett hagynia Mexikót, így távozott a fővárosból és Mexikó különböző helyein bújkált álnév alatt.
Szeptember végén Castro megvásárolta a Granma nevű jachtot az amerikai tulajdonosától és pénzt adott neki a javítási költségekre. Az előkészületek felgyorsultak.

1956. november 25-én hajnali kettőkor a huszonnégy férőhelyes Granma kifutott Tuxpán kikötőjéből, 82 emberrel a fedélzetén. Mindenki izgatott és boldog volt - majd tengeribeteg lett. Che-nek egy hosszú asztmarohamot is el kellett szenvednie.
Hét napba telt, mire a Granma eljutott Kubába - a tervezett öt helyett. Ez tragédiához vezetett. Az ötödik napon Frank País Santiago-ban felkelést robbantott ki, hogy magára vonja Batista figyelmét, hogy Castro csapata észrevétlenül érkezhessen meg, de mivel a Granma késett, az egész terv balul sült el. A felkelést szétverték és a hadsereg felkészülten várt a jachtra és a legénységére.
December 2-án hajnali kettőkor a Las Coloradas-nál a Granma-ból kifogyott az üzemanyag és a harcosoknak el kellett hagyniuk, a vízben gyalogolva, a felszerelésüket a karjukban cipelve. Che és Raúl Castro hagyták el a hajót utoljára. Tüskés bozótokon, éles leveleken kellett keresztülverekedniük magukat, és éhes szúnyogok csípték a testüket. Két óra menetelés után partot értek, vérző lábakkal, nedves ruhával és fegyverekkel. Néhányan elszakadtak a főcsoporttól. Azután a légierő és a partiőrség támadt rájuk.

Egy parasztember lett a harcosok vezetője, és elindultak a Sierra Maestra hegyei felé, miután megpihentek egy cukornád-mezőn. A támadások állandóak voltak, erősítés is érkezett, és még a paraszt is elárulta a lázadókat. Néhány harcos a csatában hunyt el, néhányan elfutottak (nem sokkal később csapdába estek és Batista katonái megölték őket), sok fegyver és hátizsák elveszett. Néhányan, mint például Ñico López, Che első kubai barátja, csapdába estek: megkínozták, majd megölték őket. Még Che is megsérült: lövés érte a nyakán. Erősen vérzett és felkészült arra, hogy méltósággal haljon meg, amikor az egyik barátja, Juan Almeida rátalált, elmondta neki, hogy a seb nem halálos, majd együtt menekültek ki a már lángokban álló mezőről.
A 82 harcosból csak 20 maradt életben. A túlélők kisebb csapatokat alkottak és megpróbálták elérni a Sierra Maestra-t, anélkül, hogy tudták volna, vajon a vezérük, Castro él-e még. Ruhát váltottak, parasztkabátba és -nadrágba öltöztek át, és elrejtették a fegyvereiket. Amikor egy barátságos paraszttal találkoztak, ettek - egyébként éheztek. A kubai újságok írtak a lázadó seregről  és Che-t is megemlítették: "egy argentín kommunista, akit kirúgtak a saját hazájából". Che-nek nagyon tetszett.

Végül december végére minden túlélő összetalálkozott és egyesült Castro irányítása alatt - miközben Batista felnagyította a hadsereg győzelmét és azt a pletykát terjesztette, hogy Che és a Castro-testvérek halottak. Ez nagy szomorúságot okozott Che családjában, de a szülők minden lehetséges módon igyekeztek kapcsolatba lépni Kubával és néhány nap múlva megerősítést kaptak: a havannai argentín nagykövet értesítette őket, hogy Che még mindig életben van. Újévkor egy rövid levelet, majd egy képeslapot kaptak Che-től, amelyeket egy névtelen hírvivő hagyott a küszöbükön.
A Sierra Maestra-ban Castro újraszervezte a lázadó seregét. Az önmagába és a forradalomba vetett hite megingathatatlan volt.
Január 14-én a kis csapat megtámadta a La Plata laktanyát és győzelmet aratott. Az ottani katonák megadták magukat, a tisztek elmenekültek és a lázadók sok fegyvert és különböző felszereléseket zsákmányoltak. Batista-nak el kellett ismernie a lázadók létezését és újabb csapatokat küldött, hogy bekerítsék a Sierra Maestra-t.

Néhány paraszt segített a lázadóknak, mások elárulták őket. Az egyikük, Eutimio Guerra a hegyekben vezette a lázadó sereget, miközben többször is elárulta őket Batista hadseregének. Amikor az árulására fény derült, a rögtönzött bíróság (elnöke: Fidel Castro) halálra ítélte. Che végezte ki az árulót egy pisztolylövéssel.
Január 28-án Che maláriát kapott. Akkoriban szokott rá a szivarozásra, ami jót tett az asztmájának.
Februárban annyira rosszabbodott az állapota, hogy még járni sem tudott, így hátra kellett maradnia. A pihenést olvasással és tanulással töltötte. Miután újra csatlakozhatott a bajtársaihoz, a hadsereg rájuk támadt és Che elveszítette a könyvekkel, gyógyszerekkel és étellel teli hátizsákját - és a takaróját, amit a La Plata-i csata trófeájaként őrzött.
Február 17-én egy veterán amerikai újságíró, Herbert Matthews érkezett a Sierra Maestra-ra, hogy interjút készítsen Fidel Castro-val. Az interjú legendássá vált és számtalan országban olvasták.

A lázadó sereg tovább menetelt és eközben Che gyógyította az útjukba kerülő beteg parasztokat és családtagjaikat. Május 28-án megtámadták az El Uvero-i laktanyát - és győzelmet arattak. Che ápolta mindkét oldal sebesültjeit és a következő hónapot is ezzel töltötte, miközben újabb harcosokat verbuvált a közelben élő parasztok közül, és több harcostársát tanította meg írni és olvasni. Fogorvosként is kellett dolgoznia és ekkor szerezte az El Sacamuelas (A Foghúzó) becenevet. Június végére Che és a csapata csatlakozott a fősereghez és megkapta a kapitányi rangot. Július 21-én Comandante, vagyis őrnagy lett belőle és övé lett a 4. hadoszlop vezetése (valójában ez a második hadoszlop volt, amit azért hívtak a negyediknek, hogy megtévesszék az ellenséget). Celia Sanchez egy kis csillagot adott Che-nek, amit a sapkájára tűzhetett, Fidel pedig egy karórát adott neki.
Július 31-én Che hadoszlopa Bueyecito-nál találkozott az ellenséggel. Minden rosszul kezdődött: Che fegyverei nem működtek és mire megjavította a gépfegyverét, a támadás véget ért a lázadók győzelmével (Ramiro Valdés csapata vívta ki a győzelmet).
Augusztusban Che felállított egy tábort El Hombrito-ban, megalkotott egy logisztikai rendszert az utánpótlás továbbítására, olvasni és írni tanította az embereket, kórházat, egy kis fegyverkészítő- és javító gyárat, valamint egy cipőkészítő létesítményt nyitott. A táborhoz tartozott egy kis farm és egy kemence is, ahol kenyeret sütöttek. Két havannai diák egy kis gátat épített a közeli folyón, hogy vízienergiát nyerjenek. Che-nek sikerült egy stabil bázist kialakítania, ahonnan az emberei egy nagyobb területet irányíthattak.

Augusztus 29-én Che és Fidel csapatai találkoztak, majd együtt meneteltek Pino del Agua-ba. 30-án Che hadoszlopa győzelmet aratott Sosa generális serege felett, annak ellenére, hogy feleannyian voltak és gyengébb minőségű fegyverekkel rendelkeztek (ez volt az El Hombrito-i csata).
Október végére Che visszatért a bázisra és elindította az El Cubano Libre (A szabad Kuba) nevű újságot, egy 1903-as nyomdagép használatával. Cikkeket írt - El Francotirador (Szabadúszó) álnéven - ezt a nevet még Ricardo Rojo adta neki Ecuadorban.
November 29-én Che serege a Mar Verde-i csatában vett részt, amelyből vissza kellett vonulniuk. Che ismét bebizonyította a bátorságát, amikor egy tucat ellenséges katona előtt kiugrott a menedékként használt szikla mögül, hogy felkapja egy sebesült társát - az ellenfelei annyira megdöbbentek a merész tettén, hogy elfelejtettek rálőni, így Che épségben megúszta.
Miután visszatértek a táborba, látták, hogy az ellenség teljesen elpusztította. Che La Pata de la Mesa-ba vezette a seregét és ott alakított egy új tábort.
December 8-án Che bal lába megsérült, egy golyót távolítottak el belőle és mialatt lábadozott egy paraszt házában (majdnem egy hétig nem tudott járni), Ramiro Valdés vezette a hadoszlopát.

1958 januárjában az El Cubano Libre újabb számai jelentek meg, majd februárban a Radio Rebelde (Lázadó Rádió) indította el az adását. Che - aki létrehozta - az első szavait Camilo-nak küldte: "Camilo: soy el Che. Camilo, aquí habla el Che." (Camilo, Che vagyok. Camilo, itt Che beszél.) A rádióállomás erősen megnövelte a lázadó seregek harci morálját és megtörte a Batista hazug bejelentései által létrehozott információs blokádot - a diktátor ismét azt terjesztette, hogy Che és a Castro-fivérek halottak, és hogy a forradalom elbukott. A Radio Rebelde segítette a lázadó hadoszlopok közötti kommunikációt és tájékoztatta az embereket a valódi eseményekről. Hamarosan több állomása is lett, nemcsak Kubában, hanem az országon kívűl is - még Miamiban (USA) is lehetett fogni az adását. (Argentínában nem.) Más országok rögzítették az adásokat és így terjesztették az információkat a kubai forradalomról.
Február 16-án Che csatlakozott Fidelhez a Pino del Agua-i csatában, majd interjút adott az uruguay-i riporternek, Carlos María Gutiérrez-nek. (Miután elhagyta a tábort, Gutiérrez meglátogatta Che szüleit és még fotókat is mutatott nekik a fiukról - így hat év után végre láthatták, hogyan nézett ki az elsőszülöttjük. Azt is megtudták, hogy Che-t bálványozták és imádták az emberei, hogy kiváló katona és stratéga volt, és hogy a harc mellett orvosként és tanárként is dolgozott.

Kicsivel később egy másik riporter érkezett, hogy interjút készítsen Che-vel - az argentín Jorge Ricardo Masetti, akivel jóbarátok lettek.
Ezek az interjúk jelezték a Che Guevara-legenda kezdetét. Nagyon kevesen tudtak ellenállni a jóképű, szerény, fiatal argentín orvos vonzerejének, aki a csendes, kényelmes életet feladta azért, hogy egy másik ország függetlenségéért harcoljon, miközben éhezett, fázott, betegséggel és más nehézségekkel küszködött.
Áprilisban nem voltak csaták. Che iskolát alapított a jövőbeli gerillák számára Minas del Frío-ban (Escuela de Reclutas Ciro Redondo - az elesett bajtársa emlékére), lövészárkokat ásott, erődítményt épített, embereket gyógyított, segített a helyi nőknek a szülésnél és mint mindig, olvasott. Akkoriban olvasta Mao Ce Tung írását a gerillaharcról és a kubai történelmet tanulmányozta.
Április 9-én a Július 26. Mozgalom általános sztrájkot hirdetett az egész országban, de a kísérlet elbukott.

Májusban új hadoszlop alakult: a 8-as Ciro Rendonde hadoszlop. Fidel Che-t nevezte ki a vezérének. Május 25-én Batista elindította a Nagy Nyári Offenzívát, egy hatalmas katonai akciót a lázadó sereg ellen - ez augusztusig tartott. Nagy csaták zajlottak és Che otthagyta a tanítást és a gyógyítást, hogy harcoljon. Az offenzíva a hadsereg vereségével végződött, nagy veszteségeket szenvedett, miközben a lázadók számos győzelmet arattak - igaz, hogy több remek harcosukat elveszítették, de nagy adag fegyverre és lőszerre tettek szert. Fidel elhatározta, hogy kiterjeszti a háborút a Sierra Maestra-n túlra. Che hadoszlopa Kuba középső részébe menetelt, hogy megbénítsa az ellenség hadmozdulatait. Augusztus 31-én indultak Las Villas-ba.
Az út nagyon kegyetlen volt és rosszul kezdődött: a repülőt, ami fegyvereket hozott a lázadóknak, felfedezte a hadsereg, majd egy ciklon érkezett (ebből egy hónappal később hurrikán lett), így gyalogolniuk kellett vagy lóháton utaztak, a nehéz hátizsákjaikat is cipelve. Sáros pocsolyákból kellett inniuk, éhes szúnyogok csípték őket és gyalog kellett átkelniük a folyókon.
Che nagyon kemény vezető volt, de a legkeményebben önmagát hajtotta. Mindig igazságos volt, így a bajtársai tisztelték és szerették.

Szeptember 9-én Che és Camilo hadoszlopai találkoztak és együtt harcoltak a hadsereg ellen, amely bombatámadásokkal üldözte az éhes, szomjas és rongyos lázadókat. A mocsári növényzet elrohasztotta a bakancsokat, és a harcosok lába sebes lett, majd elfertőződött és erős fájdalmakat okozott. Folyton esett az eső, az emberek megbetegedtek és fáradtak voltak. Che bátorító szavakkal és durva szidalmakkal vette rá őket, hogy folytassák a menetelést, amíg meg nem látták Las Villas hegyeit.
Október 16-án a hadoszlop megérkezett az Escambray hegységbe, majd másfél hónap alatt számos várost foglaltak el Las Villas tartományban. December 18-ra a lázadók elfoglalták Fomento-t, 23-án Cabaiguán-t, 24-én Placetas-t, ahol Che felütötte a főhadiszállását a Hotel Tullerías-ban, majd felkészült a Santa Clara-i csatára. A többi lázadó hadoszlop is egyre több várost foglalt el. Ekkor történt meg először, hogy Che autót vezetett - egy terepjárón próbálta ki magát.

December 29-én a lázadók megkezdték Santa Clara ostromát, mialatt a jóval több emberrel, fegyverrel és munícióval rendelkező hadsereg bombázta őket. A rádióban Che arra kérte a lakosságot, hogy csatlakozzanak a lázadó sereghez, majd a csapata élén belépett a városba. Délután kisiklatta és elfoglalta Batista páncélvonatát, amely 373 katonát, valamint két hónapra elegendő fegyvert és lőszert szállított. A harcok közben leesett egy falról és eltörte a bal karját. Azonnal a kórházba sietett, begipszeltette, majd rohant vissza harcolni. (A kendőt, amely a sérült karját tartotta, Aleida adta neki.)
A megrémült Batista bejelentette a nemzetközi sajtónak, hogy Che meghalt, miközben a Radio Rebelde a lázadó seregek számtalan győzelméről számolt be Kuba-szerte.

1959. január 1-jére Santa Clara a lázadó sereg birtokába került. Che-t lesújtotta a hír, hogy elveszítette az egyik legjobb harcosát, Roberto Rodríguez-t (El Vaquerito), ugyanakkor boldog volt, mert rátalált a szerelem: beleszeretett a 24 éves bajtársnőjébe, Aleida March-ba. A bátor fiatal nő Santa Clara-ból származott. (Pénzt vitt a táborba, amit ragasztószalagokkal erősített a testére. Che először nem örült a csinos, fiatal nőnek, de amikor látta, hogy Aleida komolyan veszi a forradalmat és mindent megtesz azért, hogy hasznára lehessen, még fegyvert is adott neki, hogy velük együtt harcolhasson és megvédhesse magát.) A harcok során Che meglátta, amint Aleida átkelt az úton, kitéve magát az ellenséges lövészeknek és rájött, hogy beleszeretett a lányba. Néhány nap múlva már egy párt alkottak.

A hegyekben megismerte a kubai szegényparasztok életét, látta, hogy nincsenek iskolák, sem orvosok, nincs áram, és hogy az emberek többsége írástudatlan. Céljának tűzte ki az írástudatlanság felszámolását és az egészségügyi szolgáltatások fejlesztését.