Sekiz çocuklu bir ailenin üçüncü çocuğu olan Melville 1 Ağustos 1819 New York da dünyaya geldi. 1830’da iflas eden babası, iki yıl sonra hayatını kaybedince Herman Melville, çocuk yaşta çalışmaya başlamak zorunda kaldı] Bir yandan okuyup bir yandan çeşitli işlerde çalışarak geçen beş yıldan sonra New York’ta özel ders vererek hayatını kazanmaya çalıştı. Shakespeare hayatında en fazla etkilendiği yazardı. 1841’de Acushnet adlı bir balina gemisine denizci olarak kabul edildi ve Pasifik’te yeni bir seyahate başladı. Markiz Adaları’nda gemiden kaçtı. Yamyam olarak bilinen Typee yerlilerinin arasında bir ay kadar yaşadı. Adaya gelen bir Avustralya gemisi ile yeniden denizciliğe döndü ancak gemide çıkan isyana katılmakla suçlandığı için Tahiti civarında bir yerel hapishanede birkaç gün tutuklu kaldı. 1843 yazını Tahiti’de yerliler arasında geçirdi. İleride yazacağı Moby Dick adlı romanın kurgusu bu macerada oluştu.
Otuzlu yaşlarında Boston’a döndükten sonra artık deniz seferlerine bir son vermişti. “Tippee” ve “Omoo” adlarını taşıyan ilk iki kitabı 1846’da yayınlandı. Bu kitapları, yerliler arasında geçen günlerine aitti. 1850 yılında yayınlanan “White Jacket”’ta ise bahriye erlerinin zorlu hayatını anlattı. İlk kitapları onu bir anda hem İngiltere hem Amerika Birleşik Devletleri’nde çok ünlü bir yazar haline getirdi. Bu dönemde eski bir aile dostunun kızı olan Elizabeth Knapp Shaw ile evlendi. 1850’de Massachusetts’te bir çiftlik evi satın alan Melville, çiftlik işleri ve yazı ile uğraşarak 13 yıl boyunca bu evde yaşadı. “Arrowhead” (ok ucu) adını verdiği ev, günümüzde müzedir. En büyük eseri Moby Dick’i 1851’de tamamladı. Başlangıçta, balina avcılığını anlatan bir serüven öyküsü olarak tasarladığı kitabı tamamlamak üzere iken Amerikalı yazar Nathaniel Hawthorne ile tanışıp arkadaş olmuştu. Hawthorne’un tavsiyesi ile kitabını simgesel anlamlarla yüklü bir romana çeviren Melville, eseri dostuna adadı. Ancak kitap yayınlandığında beklediği başarıyı yakalayamadı ve çok olumsuz eleştiriler aldı.
Yayımcısı Harper’s bir sonraki romanını basmayı reddedince maddi sıkıntıya giren Melville 1866’da New York’ta gümrük müfettişi olarak çalışmaya başladı. Bu dönemde yazdığı “Pierre” ve “Piazza memories” gibi kitaplar ilgi görmedi. Son yıllarında düz yazıyı bırakarak kendini tamamen şiir yazmaya verdi; şiirlerini kendi parasıyla bastırdı. 1866 yılında itibaren on dokuz sene boyunca New York rıhtımında gümrük müfettişi olarak çalıştıktan sonra 1885 yılında emekli oldu. 28 Eylül 1891’de New York’taki evinde kalp krizi geçirerek öldü.Uzun yıllar boyunca unutulmuş bir yazar olarak kalan Melville, 1920’li yıllarda yeniden keşfedildi ve büyük bir yazar olarak kabul edildi. Eserleri Amerikan Kütüphanesi tarafından toplanıp basılan ilk yazar oldu.