Всё очень просто: найти производную, приравнять ее к нулю, посмотреть, какие из найденных точек принадлежат указанному отрезку, вычислить значения функции в этих точках, посмотреть, в каких точках производная не существует (если есть), вычислить значения функции и в этих точках, потом вычислить значения функции на концах отрезка, и все полученные значения сравнить.