Одной из лингвистических наук является орфоэпия, изучающая вопросы правильного произношения отдельных звуков, букв и их сочетаний (греч. orthos – правильный и epos – речь) и формирующая орфоэпические нормы.

Произношение согласных в русском языке зависит от грамматической формы слова, положения в слове или от соседних звуков.

Согласно нормам, буквосочетание "тьс(я)" произносится как долгий твердый звук [ц:] в следующих случаях:

• в глаголах в неопределенной форме, в третьем лице единственного и множественного числа с возвратной частицей -ся - на стыке окончания и частицы. Например, учится – учи[ц:]я , кататься – ката[ц:]я, отмечаться – отмеча́[ц:]я.
• в возвратных глаголах. Например, смеются — смею[ц:ъ], смеяться — смея[ц:ъ].
• если буквосочетание следует за ударной гласной. Например, мы́ться - [мыц:а].

В качестве примера иного правильного произношения буквосочетания "тьс(я)" можно привести глаголы в повелительном наклонении, где оно звучит как два мягких звука [т’с’ь]. Например, отметься – отме́[т’с’ь], встреться – ветре́[т’с’ь].

Неправильное произношение "тьс(я)" встречается, в основном, под влиянием говоров и просторечия, когда говорят так, как пишут.

В "Большом орфоэпическом словаре русского языка. Литературное произношение и ударение начала XXI века: нормы и ее варианты, под ред. Л.Л.Касаткина" можно найти полные описания правильного произношения слов в различных грамматических формах, а также исключения из правил.