A resposta é: depende!
É normal que ocorra um leve ardor durante a prática, resultado do rompimento de fibras musculares, o que desencadeia um processo inflamatório responsável por aquela dor sentida no dia seguinte à prática. Portanto, essa dor é normal e um sinal de que os exercícios terão resultado
Pode ocorrer também aquela dorzinha abdominal e nas pernas, o que também é normal, resultado de falta de oxigenação ou de fluxo do sangue. Em atletas profissionais, com carga de exercício mais intensa, a dor surge por queimar em maior quantidade ácido lático durante o exercício
Contudo, caso o que você sinta seja uma dor incômoda, que cause sofrimento, isso pode significar que algo não está sendo feito corretamente, logo, o exercício deve ser imediatamente interrompido.
Ou seja, atividades físicas não devem ser torturantes ou motivo de sofrimento, bem pelo contrário, devem ser prazerosas! Inclusive, ao ignorar a dor, você estará mais suscetível a sofrer uma lesão.
Caso você tenha mais dúvidas sobre dores durante a prática física e queira saber como minimizá-las, consulte um profissional.