Я дико извиняюсь, но сегодня FF ESR обновился с версии 31.7 до 38.2 (не спросив разрешения), и все вернулось на круги своя (8 быстрых закладок на новой вкладке). Я конечно понимаю, что можно использовать костыль из этой темы. А по человечески выставить нужные параметры до сих пор не получится?
В about:config параметры строк и колонок с быстрыми вкладками игнорируются.

villa7, спасибо за помощь, получилось вернуть то, что было, правда немножко с другими параметрами (разрешение экрана 1366х768):

@-moz-document url(about:newtab) 
{
  .newtab-cell { height: 75px !important; width: 200px !important;} 
  }

Просто, мне не совсем понятно зачем такая реализация - раньше независимо от разрешения экрана отображалось нужное количество вкладок. Сейчас нужно выставлять размеры самой вкладки, чтобы подобрать нужное их количество. Не вижу смысла в таком нововведении(