то есть XSLT-процессор, который скомпилен в твоей FreeBSD орет на utf-8, что это ошибка, а вот если написать UTF-8 - то работает хорошо?
http://www.w3.org/TR/2004/REC-xml-20040204/#NT-EncodingDecl
XML processors SHOULD match character encoding names in a case-insensitive way and SHOULD either interpret an IANA-registered name as the encoding registered at IANA for that name or treat it as unknown (processors are, of course, not required to support all IANA-registered encodings)
http://www.w3.org/TR/xslt#output
encoding specifies the preferred character encoding that the XSLT processor should use to encode sequences of characters as sequences of bytes; the value of the attribute should be treated case-insensitively;
Согласно спецификацмй XML и XSLT, XML- и XSLT-процессоры должны быть не чувствительными к регистру в кторой указана кодировка, так что наверное твой XSLT-процессор кривоват...