Na Digital Ocean dá pra fazer sim, olhe o link abaixo:
https://fatorbinario.com/comunidade/topico/nameservers-customizados-o-que-sao-e-como-fazer-para-configura-los/
Mas é muito importante você entender que NS customizados são uma coisa ultrapassada que eu já não indico pra cliente algum que atendo.
Vai por mim, profissional mesmo é não deixar os sites cairem.
O problema de NS customizado é quando você vai mudar a hospedagem ou esquece de renovar aquele dominio, ae pode acabar ficando com os sites que apontam pra eles fora do ar por até 48 horas.
Para prevenir isso eu indico sempre a CloudFlare, o serviço deles é como uma tabela DNS externa. Você terá 2 NS que eles colocam para a sua conta e todos os sites que você adicionar lá terão os mesmos NS para apontar. Além de tudo eles ainda te dão firewall, cdn/cache e outras ferramentas gratuitamente, e ainda escondem o IP do seu servidor, tudo de graça.
Eles são reconhecidos também por serem o serviço de tabela DNS com a propagação mais rápida que existe. Um apontamento de IP leva uns 5 segundos para propagar.