Sim, caso o produto seja para uso/consumo/imobilizado, conforme artigo 155, §2º, VIII, 'a', CF/88.
"Art. 155.
§2º
...
VII - nas operações e prestações que destinem bens e serviços a consumidor final, contribuinte ou não do imposto, localizado em outro Estado, adotar-se-á a alíquota interestadual e caberá ao Estado de localização do destinatário o imposto correspondente à diferença entre a alíquota interna do Estado destinatário e a alíquota interestadual;
VIII - a responsabilidade pelo recolhimento do imposto correspondente à diferença entre a alíquota interna e a interestadual de que trata o inciso VII será atribuída:
a) ao destinatário, quando este for contribuinte do imposto;
...".
2) Caso esteja comprando para revenda, então, o ICMS é antecipado (na prática o cálculo é uma diferença de alíquota).
Obs. O fato do produto está chegando com uma nota fiscal avulsa não isenta do ICMS no destino, o fato gerador é a entrada no estabelecimento/Estado dos bens/mercadorias.