После безуспешных попыток заставить Wordpress слать письма в koi8-r, все закомментировал и ограничился выправлением заголовка в родных UTF-8 письмах. Но все-таки надо будет к этому еще как-нибудь вернуться и оформить в виде красивого плагина.