Si al actualizar Moodle desde la versión 3.6 al acceder a Administración del sitio > Cursos > Administrar cursos y categorías ves el siguiente error:
Excepción - Argument 1 passed to theme_boost\output\core_course\management\renderer::category_listing() must be an instance of coursecat or null, instance of core_course_category given, called in [dirroot]/course/management.php on line 501
Esto indica que tienes activada la clase coursecat que (junto a course_in_list) ha sido depreciada a partir de Moodle 3.6:
https://github.com/moodle/moodle/blob/56fd8c5125db103cb84ccc43d6def71e40ce5965/lib/upgrade.txt#L76
Para solucionar este error, habilita el modo depuración y comienza a buscar en los registros. Debido a que este problema aparece en la página de administración de cursos y categorías, lo ideal sería empezar a buscar en los formatos del curso.
Al tener el modo debug activado recibirás más información sobre qué plugin o módulo obsoleto está usando esta clase y tendrás que deshabilitarlo y desinstalarlo desde la zona de gestión de extensiones.