Странно. Тут https://addons.thunderbird.net/en-us/firefox/addon/custom-buttons/ написано, что custom-buttons в Quantum не работают, но тема живая.
Как вы работаете с custom-buttons? Подключаете поддержку устаревших расширений?