Цель исследования – повышение уровня доверия пользователей систем прогнозирования графиков нагрузки предприятий путем применения методов объяснимого искусственного интеллекта, которые позволяют получить не только прогноз, но и его обоснование. Объект исследования – комплекс шахт и горно-обогатительных комбинатов предприятия, покупающего электроэнергию на оптовом рынке электроэнергии и мощности. Использованы почасовые данные электропотребления за два года, график плановых ремонтов и остановов оборудования, метеорологические данные. Применены ансамбли деревьев решений для прогнозирования временных рядов, выполнен анализ влияния различных факторов на точность прогнозирования. Предложен алгоритм интерпретации результатов прогноза с помощью метода аддитивного объяснения Шепли. Средняя по модулю относительная ошибка прогнозирования составила 7,84 % с учетом метеорологических факторов, 7,41 % с учетом метеорологических факторов и плана нагрузки, сформированного экспертом. Ошибка прогноза эксперта составляла 9,85 %. Полученные результаты показывают, что повышенная с учетом дополнительных факторов точность прогноза электропотребления повышается еще больше при совмещении методов машинного обучения и экспертной оценки. Создание такой системы возможно только при применении моделей объяснимого искусственного интеллекта.