Cancelamento de Registro

Por gentileza uma dúvida.

Eu passei em um processo seletivo e fiz exame médico admissional, iniciei dia 14/03 na empresa, mas não gostei, a vaga não era exatamente o que ofereceram na entrevista.
Não assinei contrato de experiência e eles nem registraram minha carteira, apenas entreguei as cópias dos documentos.
No dia seguinte às 06 da manhã respondi o email do RH solicitando cancelamento da Admissão.

Hoje me ligaram informando que eu tinha que pedir demissão pessoalmente. Fui e apenas formalizei a próprio punho o pedido de cancelamento de admissão.

Eles podem se recusar a cancelar o registro? Eles falaram que já havia comunicado minha admissão. Mas não é só excluir a informação do CAGED?

Tenho o e-mail e foto da cartinha que fiz a solicitação de cancelamento.