Então, eu não tenho como consultar a base legal no momento porque tenho as anotações no escritório, mas que eu me lembre, apenas no caso de enquadramento nos critérios de inatividade é que a instituição não precisa entregar a declaração. Para caracterizar inativa, não pode ter havido quaisquer situação com a entidade. Por exemplo, comigo ocorreu de um cliente ficar inativo de 2015 a 2017, não teve nada porque o sócio estava no exterior e era lucro presumido prestador de serviços. Logo, não houve o que declarar, reativou a empresa no decorrer de 2018, em 2019 entreguei normalmente a ECF no prazo. Se as instituições que você se refere realmente estão desobrigadas, não vejo como entregar a declaração mesmo fora do prazo, e por analogia penso que caso consiga, não haverá penalidades. No caso da ECF, penso que ou você entrega no prazo com alguma informação pelo menos financeira/tributária, ou se trata de instituição inativa que não é obrigada.
Dada a minha ausência de familiaridade com a situação de entrega de não obrigadas após o prazo , sugiro aguardar manifestações de outros colegas para ter uma resposta mais segura.