По формуле куба разности ($a^3-3a^2b+3ab^2-b^3=(a-b)^3$) при $a=x,$ $b=1$ получаем:
$$
x^3-3x^2+3x-1=(x-1)^3.
$$
Найдём ОДЗ:
$$
\begin{cases}
(x-1)^3>0\\
x^2-1>0
\end{cases}
$$
Первое неравенство равносильно неравенству $x>1.$
Решим второе неравенство, используя
формулу разности квадратов ($a^2 - b^2 = (a - b)(a + b)$) и метод интервалов:
$$
(x-1)(x+1)>0
\quad\Longleftrightarrow\quad
x\in(-\infty;-1)\cup(1;+\infty).
$$
Пересекая, получаем ОДЗ:
\[
x>1. \quad (*)
\]
С учётом этого преобразуем неравенство.
Так как $8=2^3,$ то по
свойствам логарифма ($\log_{a^k}b=\dfrac1k\log_a b$ и $\log_a b^k=k\log_a b$ при $b>0$) имеем
$$
\log_8(x-1)^3=\log_{2^3}(x-1)^3=\dfrac13\cdot3\cdot\log_2(x-1)=\log_2(x-1).
$$
Неравенство принимает вид:
$$
\log_2(x-1)\geqslant\log_2(x^2-1)-5;
$$
$$
\log_2(x^2-1)-\log_2(x-1)\leqslant 5;
$$
$$
\log_2\dfrac{x^2-1}{x-1}\leqslant 5;
$$
$$
\log_2\dfrac{(x - 1)(x + 1)}{x-1}\leqslant 5;
$$
С учётом $(*)$ упростим неравенство:
$$
\log_2(x+1)\leqslant5.
$$
Воспользуемся монотонным возрастанием функции $\log_2 t:$
$$
\log_2(x+1)\leqslant\log_2 32
\quad\Longleftrightarrow\quad
x+1\leqslant 32
\quad\Longleftrightarrow\quad
x\leqslant 31.
$$
С учётом $(*)$ получаем:
$$
x\in(1;31].
$$
Ответ: $(1;31].$
