Bug, debug, por aí...

Felipe Parente
MBA Processamento de dados (1976)

Como afirmado na resposta do Paulo Gurgel Carlos da Silva, o primeiro relato é creditado a Thomas Edison, de acordo com o Oxford English Dictionary - Por que chamamos bug a uma falha no computador? - Pplware e também como indicado na Wikipedia em inglês na página Software bug - Wikipedia.
No entanto, a utilização dessa palavra relacionada a erros de hardware ou software (programação) é atribuida a uma mariposa que foi encontrada nos circuitos do computador Mark II de Harvard no dia 9 de setembro de 1947, como registrado no Museu Nacional da História Americana da Smithsonian (O Que é Bug, De Onde Vem o Termo e Como Fazer para Evitá-lo e Software bug - Wikipedia). Os operadores que encontraram o inseto, incluindo William "Bill" Burke, eram familiarizados com o termo usado na engenharia e no registro oficial do acontecimento colaram a mariposa encontrada.
A cientista Grace Hopper, que fazia parte da equipe dos pioneiros da programação que trabalharam nos computadores Mark I, Mark II e Mark III gostou tanto dessa história que passou a repeti-la diversas vezes, popularizando o termo quando associado a programas de software.
É interessante que o termo "debug" largamente utilizado na depuração de programas, também é anterior a descoberta da mariposa no Mark II, existindo registro do seu emprego em textos relacionados a aeronaves em 1945.

Os trechos acima sublinhados correspondem a links na resposta de Felipe Parente no Quora, onde a mesma foi originalmente publicada.