1903`de Teğmen rütbesiyle Harp Okulu`ndan mezun oldu. İlk görev yeri Manastır`da konuşlanan 6. Nizamiye Piyade Tümeni idi. Burada Enver Paşa`nın emrinde bulunmuş ve hayatı boyunca da Enver Paşa`nın en yakınındaki adamlarından biri olmuştur. II. Meşrutiyet dönemine kadar bu bölgede görev yaptı. Bulgar, Sırp, Yunan, Arnavut çetelerine karşı mücadele etti. Gayri Nizami Harp tecrübesini bu dönemde kazandı. İttihat ve Terakki`ye katılması da yakın arkadaşlarının etkisiyle aynı dönemdedir.
İhtilalin ardından İttihat ve Terakki cemiyetince 1909 yılında İran`a gönderildi. Görevi daha önceden kaldırılmış olan meşrutiyeti yeniden ilan ettirmek üzere yeraltı faaliyetlerinde bulunmaktı. Yol boyunca, bölgedeki kürt aşiretlerinin desteğini toplayarak ilerledi. İranlı meşrutiyet yanlıları ile işbirliği yapdı. 31 Mart olaylarının patlak vermesiyle İstanbul`a çağrılınca görevini bırakmak zorunda kaldı. İsyan bastırıldıktan sonra Ermeni ayaklanmaları sebebiyle müfettiş-i umumi olarak Adana`ya gönderildi. 1910 da gazeteci Ahmet Samim Bey`e düzenlenen suikastın faili olduğu iddia edildi ancak bu iddia ispatlanamadı.
Trablusgarp Dönemi
1911`de İtalyan işgaline maruz kalan Kuzey Afrika`daki Osmanlı topraklarını kurtarmak amacıyla başlatılan mücadeleye katıldı. Trablusgarp yoluna Binbaşı Mustafa Kemal (Atatürk) Bey ile çıktı. Başta Kurmay Binbaşı Enver Bey olmak üzere İttihat ve Terakki`nin en önemli komutanları Trablusgarp-Bingazi eksenine gelmişti. Yakub Cemil yine Enver Bey`in emrindeydi. Yerel halkı örgütleyerek gerilla savaşını başlattılar. Bu esnada sırf siyah tenli olduğu nedeniyle düşmana bilgi sattığından şüphelendiği kendisinden rütbeli teğmen şükrüyü bir gece çadırına gelerek uykusundan kaldırıp kafasına bir kurşun sıkarak öldürmüştür. o gece karargah karışmış ve yakup cemil bir çılgınlık daha yapmaması için istanbula gönerilmiştir.daha sonra bu olayı kendine soranlara siyah olduğu için öldürdüm demiştir.
Bab-ı Ali Baskını ve Balkanlar
1912`de başlayan Balkan Savaşları`na 4000 cezaevi mahkumundan oluşan gerilla ordusu katıldı. Bu ordu ile beklenenin üzerinde yarar sağladılar. Ancak Osmanlı ordusu savaşta yenilince Bulgarlar Rumeli`nin (Edirne) kendilerine verilmesini istediler. Fakat Kamil Pasa Hükümeti bunu kabul etmedi fakat o dönemde muhalefette olan İttihat ve Terakki Fırkası ve dolayısıyla da cemiyet Rumeli`nin Bulgarlara bırakıldığının ileri sürerek tarihe Bab-ı Ali baskını olarak geçen ikinci ihtilalini gerçekleştirdi. Yakub Cemil, Bab-ı Ali binasına ilk giren baskıncılar arasındaydı. Baskın esnasında karşılarına çıkan ve "Siyasete karışmayacağınıza söz vermiştiniz sözünüz bu muydu?" diyen Harbiye Nazırı Müşir Nazım Paşa`yı "bu herife laf anlatılırmı" deyip şakağından vurmuştur. Bu olayın etkisiyle kısa bir süre sonra, yüzbaşı rütbesinde iken ordudan atıldı. Yine de aynı yıl Garbi Trakya Muvakkat Hükümeti`nin kurulmasıyla sonuçlanan muharebe döneminde Enver Bey`in emrinde orduda gönüllü olarak yer aldı.
Teşkilat-ı Mahsusa
1914 de Teşkilat-ı Mahsusa`nın resmen kurulmasıyla bu kuruma alındı ve ilk görev yeri olarak da Doğu Anadolu belirlendi. 2000 kişilik mahkum ordusuyla yola çıktı. Çorum`da konakladıkları esnada yerel halktan birini yargılamadan idam ettirmesi tepkilere sebep oldu. Bölgedeki diğer ordu birlikleriyle çeşitli zaferler kazandı ancak Ardahan`da ciddi bir yenilgiye uğradı ve geri çekilmek zorunda kaldı. Bunun üzerine Ermeni çetelere karşı mücadele etmekle görevlendirildi. 1915 de alınan kararla Erzurum ve çevresindeki Ermenilerin tehcir edilmesini organize etti. Tehcir süresinde emrini verdiği bazı komitacıların yargısız infazları nedeniyle bu görevinden de alındı. Yeni görev yeri olan Bitlis`te, emirleri ihlal edip çıkan isyanlara karşı aşırı sert davrandığından dolayı, bu seferde Bağdat`a gönderildi. Bağdat cephesinde de emirleri ihlal etti ve fevri olarak emrettiği bir taarruzda bölüğünün büyük kısmını kaybetti. Bu olay cephe günlerinin de sonu oldu ve acilen İstanbul`a çağrıldı.
İdam Edilişi
İstanbul günlerinde Enver Paşa ile ters düştü ve yakın arkadaşları ile ihtilal planları yaptı. İttihat ve Terakki hükümetini dağıtmak, Enver Paşa`nın yerine vatan kahrmanı Mustafa Kemal Paşa`yı getirmek istiyordu. Sonradan bu fikrinden vazgeçtiği halde hükümeti devirmeye teşebbüs suçlamasıyla tutuklandı. Vatana ihanetten suçlu bulundu.Ancak hıncı Talat paşa`ya idi.asıl durumu öğrenen Enver Paşa Yakup Cemil gibi bir vatanseverin idam edilmesinden yana değildi.Ancak enver Paşa`nın yurtdışında bulunmasını fırsat bilen Talat Paşa Yakup Cemil`in idamına karar verdi. 11 Eylül 1916 günü kurşuna dizilerek idam edildi.
