Единого правила нет, но наиболее вероятно что: скобки могут указывать на замену одной части слова другой. Например, «ба(б)а» → заменить «б» на «бабу», получится «баба».
Скобки в ребусах используются довольно редко, так как это ребусы со скобками повышенной сложности, предназначаются для старшеклассников или взрослых-любителей ребусов. Скобки в ребусах обозначают тоже самое, что математические скобки в вычислениях, то есть сначала надо разгадать ребус, заключенный в скобки. Разгаданное слово "вставить" в слово зашифрованное ребусом за скобками.