Para barrar tentativas de brutalforce em seu Dovecot, basta seguir os rápidos passos deste tutorial.
No Debian, acesse o diretório /etc/fail2ban/jail.d/.
Crie o arquivo exim.conf com o conteúdo abaixo:
[exim]
enabled = true
filter = exim
action = iptables[name=SMTP, port=smtp, protocol=tcp]
logpath = /var/log/exim4/mainlog
bantime = 10800
Bantime é medido em seguindos.
Filter é o caminho do arquivo em /etc/fail2ban/filter/<nome>.conf que será utilizado para obter a(s) regra(s) regex de comparação para identificação de falhas de tentativas de login.
Action é o que será executado, no caso o bloqueio no iptables.