Члены разбивают на группы так, чтобы у каждой группы был свой общий множитель, а после его вынесения в скобках получалось одно и то же выражение.
С формулами: a3+a2−b3−b2=(a3−b3)+(a2−b2)=(a−b)(a2+ab+b2)+(a−b)(a+b)=(a−b)(a2+ab+b2+a+b).
Если сгруппировать иначе, может не получиться — группировка требует перебора и смекалки.