Le origini del popolo Hehe non sono note. In epoca immediatamente precoloniale (ovvero al tempo dei primi contatti con i missionari e gli esploratori europei), gli Hehe si erano stabiliti solo da poche generazioni in Uhehe ("la terra degli Hehe", ovvero gli altopiani della Tanzania sudoccidentale, a nordest del lago Malawi). Vivevano principalmente di agricoltura, occasionalmente allevando vacche e capre. Erano organizzati in piccoli chiefdom (comunità con un capo locale) ciascuno composto da poche migliaia di persone.

Intorno al quarto decennio del XIX secolo opposero un'agguerrita resistenza agli invasori Ngoni provenienti dal Mozambico. Nello stesso periodo i chiefdom furono unificati in un unico regno dal capo Munyigumba del chiefdom di Nguruhe, fondatore della dinastia Muyinga, che si impose attraverso matrimoni politici e vittorie militari (soprattutto ai danni dei Sangu). Alla sua morte (nel 1878 o 1879), uno schiavo Nyamwezi di nome Mwumbambe uccise il fratello del re defunto e tentò di usurpare il trono. Mwumbambe fu a sua volta ucciso da Mkwawa, figlio di Munyigumba, che succedette quindi al padre.

I tedeschi cercarono inizialmente di negoziare, senza successo. Gli hehe combatterono duramente contro le Schutztruppe tedesche e gli askari al loro seguito. I primi scontri diretti si risolsero in favore degli Hehe, al punto che Julius von Soden, governatore della colonia tedesca, dovette sospendere tutte le spedizioni nell'entroterra. Si è ipotizzato che in questo periodo sia entrato in uso il nome "Hehe", che potrebbe derivare dal grido di battaglia dell'esercito di Mkwawa, hee twahumite, hee twahumite, he he he hee ("siamo arrivati").L'espansione degli hehe verso nord avvenne nello stesso periodo in cui i tedeschi stavano penetrando dalla parte costiera dell'Africa Orientale Tedesca verso l'entroterra, per creare una rotta commerciale fra l'Oceano Indiano e Tabora. Hehe e tedeschi quindi entrarono rapidamente in contatto e in conflitto. Come parte di questo conflitto indiretto, gli hehe attaccavano e distruggevano sistematicamente le comunità indigene che dimostravano di aver accettato l'autorità tedesca.

I villaggi conquistati venivano brutalmente soggiogati piuttosto che assimilati. Le donne straniere catturate in battaglia diventavano proprietà di hehe di alto rango, ed erano impiegate per il lavoro nei campi, il trasporto di acqua e materiali da costruzione, e altri lavori pesanti.

Nel luglio del 1898 l'esercito tedesco riuscì finalmente a mettere in trappola Mkwawa.