To największy europejski gatunek z rodziny dzięciołowatych, chociaż jednocześnie najskromniej ubarwiony. Słabo zaznaczony dymorfizm płciowy - jednolicie czarne samce są nieco większe od samic, posiadają także charakterystyczną, czerwoną "czapeczkę" od czoła do karku. Ubarwienie czarne, z połyskiem na grzbiecie, a od spodu matowe. Na brzuchu może być ciemnoszary. Osobniki młodociane jaśniejsze (z brązowym odcieniem) od dorosłych - czarne połyskliwe pióra wyrastają im dopiero w drugim roku życia. Nawet u młodych ptaków można rozróżnić płeć, bo u samców widać już wtedy więcej czerwonych piór na ciemieniu. Na głowie samiec ma czerwoną czapeczkę, a samica jedynie wąską czerwoną przepaskę na potylicy. Tęczówka osobników dorosłych jaskrawożółta, natomiast młodocianych czarna. Palce są jasnoszare, natomiast pazury nieco ciemniejsze. Jasny dziób ma długość ok. 5 centymetrów i potrafi rozkuwać obumarłe pnie lub głębokie dziury w drewnie. Charakterystyczne, czarne ubarwienie, oraz duże (jak na dzięcioła) rozmiary, czynią dzięcioła czarnego łatwo rozpoznawalnym.
Wśród europejskich dzięciołowatych wyróżnia go charakterystyczny prostoliniowy powolny i nieregularny lot z rzadkimi uderzeniami skrzydeł (jak u sójki), u pozostałych jest on falisty. Pod względem rozmiarów i ubarwienia można go pomylić z czarnowronem, ale różni się od niego dłuższym dziobem i klinowatym ogonem. Jest niewiele mniejszy od gawrona, choć w locie od niego smuklejszy i lata bardziej zakrzywionym torem. Kuje rzadziej niż dzięcioł duży. Po ziemi kroczy niezdarnie.
To ptak płochliwy, trudny do długotrwałej obserwacji, choć łatwy do zidentyfikowania jego obecności, zwłaszcza gdy wylatuje znad drzew na otwarty teren.
Ok. 250–320 g.
Dzięcioły czarne żyją maksymalnie ok. 14 lat , jednak często giną szybciej, co jest spowodowane między innymi atakami ptaków drapieżnych jak np. sokołów,jastrzębi, czy puchaczy.
Wiek, oprócz różnicy w upierzeniu pomiędzy młodymi i dorosłymi ptakami, rozróżnia się też po czarnym zakończeniu dzioba u dorosłych i żółtawobiałym na całej długości u osobników młodocianych.
Jego odgłosy są metaliczne, kwilące i wibrujące. W locie woła głośno i wielokrotnie "kjur-kjur-kjur" , a kiedy siedzi odzywa się inaczej - daleko niosący się okrzyk "kijaa". Jego obecność słychać też po głośnym i donośnym bębnieniu w grube i suche konary - u samca 17 uderzeń/sekundę, a u samicy 14-15 uderzeń/sekundę.