Update:
Bluefox из комманды разработчиков iobroker оперативно устранил проблему с неверно отформатированным сообщением в топик от брокера при рестарте, теперь все работает без ошибок. Так что можно пользоватся связкой iobroker + mqtt + esp без шаманских плясок с бубном, типа снятиие retain флага и так далее.
Правда это не избавляет прошивку ESP от непредсказуемого поведения при получении неверно отформатированных сообщений. Прошу все-же разрабочиков обратить на это внимание. Это повысит устойчивость работы девайса, а следовательно и привлекательность его прошивки.