Bem, o erro 5.7.1 pode significar uma chuva de coisas, mas com uma simples ajuda, ou melhor, com uma simples dica este erro pode parar.
Isto normalmente ocorre por causa do RELAY que está em off (por padrão) após instalado.
O Ajax destes mailserver (o webmail em ajax) é muito bonito (mesmo). (parece que os caras são fanáticos por ext-js)
Ok, acesse o Merak (no gestor administrativo dele) e procure pelo Menu SECURITY, neste menu, procure pelo item Allow RELAY.
Isto deve resolver, caso não resolva procure por DENY SMTP EHLO, se estiver marcado, desmarque.
Caso não resolva, em última instância desabilite o suporte por SSL/TLS.
Bugs estão por toda parte e isto faz parte do panelão.
Abraços.