Это близкие по смыслу слова. Окстись - это сокращенное старорусское слово "окрестись" в смысле перекрестись. Раньше оно произносилось в адрес человека, который нес околесицу или говорил возмутительные вещи. Считалось, что подобные речи внушены нечистой силой, поэтому, чтобы развеять дьявольский морок, нужно сотворить крестное знамение. Сейчас религиозный подтекст утерян, поэтому "окстись" стало просто синонимом слов "опомнись" или "одумайся".
Это синонимы. Просто окстись - короче звучит и проще произносится.
У нас в школе географичка так говорила, когда мы на уроке чепуху городили, не зная урока.
В общем, окстись употреблялось в значении: опомнись.