4 Ekim 1910’da Diyarbakır’ın Camiikebir Mahallesi’nde doğdu. Ailesi, ona “Hüseyin Cahit” ismini verdi. Akrabaları “Pirinçcioğlu” soyadını aldığı halde Soyadı Kanunu çıktığı yıl pirinç ekiminden çok zarara uğrayan babası Bekir Sıtkı Bey, bu duruma kızarak “çiftçi” anlamına gelen “Tarancı” soyadını almıştır.

Diyarbakır’da başladığı ilk eğitimin ardından aile geleneğinden ötürü orta öğrenim için Kadıköy Fransız Saint Joseph Lisesi’ne gönderildi. Lise öğrenimi için 1931 yılında Galatasaray Lisesi’ne geçti. İlk şiirleri Galatasaray Lisesi’nin “Akademi” isimli dergisinde ve Servet-i Fünun dergisinde yayımlandı. İlk şiirlerinde hece ölçüsünün alışılmış kalıplarının dışına çıkan biçemiyle dikkat çekti.

Galatasaray Lisesi’nden mezun oldu. 1931’de girdiği Mülkiye Mektebi’nden ikinci senenin sonunda atılınca Yüksek Ticaret Okulu’na girdi ancak memuriyet sınavını kazanıp Sümerbank’ta çalışmaya başladıktan sonra bu okuldan da ayrılmak zorunda kaldı. “Ömrümde Sükût” adlı ilk şiir kitabı henüz Mülkiye Mektebi’nde iken yayımlandı. Kendisini kamuoyuna tanıtan isim ise Cumhuriyet’deki üç yazısıyla Peyami Safa’ydı

Cumhuriyet gazetesi sahipleri Nadir Nadi ile Doğan Nadi’nin desteği ile [Üniversite yüksek öğrenimini] tamamlamak üzere Paris’e gitti. 1938-1940 yılları arasında Sciences Politiques’e devam etti. Paris’teyken Paris Radyosu’nda Türkçe yayınlar spikerliği yaptı; bir yandan da gazeteye öyküler göndermeye devam etti. Paris’teki öğrenciliği sırasında Oktay Rıfat ile tanıştı. 2. Dünya Savaşı’nın başlamasıyla yurda döndü. Askerliğini yaptı, bir süre İstanbul’da babasına ait işyerinde çalıştı.

1946’da Cumhuriyet Halk Partisi’nin şiir yarışmasında “35 Yaş” şiiriyle birincilik kazanınca birden ünlendi. İlk şiir kitabı “Ömrümde Sükût” 1933’te yayınlandı. Döneminin en çok okunan şairlerinden. Bir yandan Garip akımından etkilenerek serbest şiiri denedi, diğer yandan Baudelaire, Verlaine gibi Fransız şairlerinin etkisinde kaldı. Ama hiçbir akıma bağlanamayan, uyum ve biçimi gözeten, duygulu, içten, kendine özgü bir şiir geliştirdi. Hem yaşam sevincini hem karamsarlığı yansıttığı şiirlerinde “yalnızlık” ve “ölüm” temaları ağır basar. Şiirlerinde eşya-insan arasında kurduğu ilişki edebiyat incelemelerine konu olmuştur. Hece veznini başarıyla kullanan Tarancı, az sözcükle çok şey söylemek taraftarı olduğunu her fırsatta dile getirmiştir. Ziya Osman Saba ile olan mektuplaşmaları edebiyat tarihimizde oldukça meşhurdur.  Ziya Osman Saba ile çocukluk arkadaşıdır. İki şair arasında edebiyatımızı etkileyen yazışmalar Tarancı’nın ölümüne dek sürdü.