Narodil sa v Uddingstone pri Glasgowe v rodine banského inžiniera. V škole bol taký dobrý, že štipendium, ktoré mu umožnilo neskôr vyštudovať medicínu, získal už v pätnástich rokoch.
Po absolvovaní univerzity v škótskom St. Andrews v roku 1946 strávil James Black (14. 6. 1924 - 21. 3. 2010) tri roky ako učiteľ v Singapure. V roku 1950 sa aj s manželkou vrátili domov do Londýna, kde však nemal nijaké kontakty. Iba náhodou získal miesto na Veterinárnej fakulte Glasgowskej univerzity.
Boli to časy, keď si podľa vlastných slov pripadal ako naivný maliar a pomaly sa učil, ako sa stať experimentátorom. Keď získal vlastné farmaceutické laboratórium, začal skúmať reakciu ľudského tela na hormóny. Vtedajšie obdobie označil ako zázračné, tak silno prežíval svoju prácu a nekonečné experimenty.
Po niekoľkých rokoch usilovnej práce našiel látku zvanú propranolol, ktorá pôsobí na srdce a jeho systém doslova ako balzam. Za tento pre medicínu kľúčový objav získal v roku 1988 Nobelovu cenu. Neskôr našiel a vylepšil ďalšie lieky, no žiaden už neprekonal význam jeho prvého objavu. Ten je užitočný pri liečbe vysokého tlaku dodnes.