수학의 여러 분야를 공부하는 데 있어서 집합론의 용어와 표기를 이용하는 것이 편리할 때가 많습니다.
집합론은 19세기 말엽 조지 부울 (George Boole, 1815 ~1864) 과 게오르그 칸토르(Georg F. L. P. Cantor, 1845~1918) 에 의하여 개발되었는데 20세기에 접어들면서 수학의 발전에 아주 큰 영향을 끼쳤습니다.
직관적으로 집합(set)이란 낱말은 식별가능한 대상들의 모임을 나타내는데 사용되고 그 모임의 개개의 대상들을 그 집합의 원소(element)라고 합니다. 대상 a가 집합 S 의 원소일 때 이것을
로 나타내고, “ a는 S 에 속한다(belong)” 또는 “ S 는 a를 포함한다 (contain)” 고 말합니다. 또 a가 S 의 원소가 아님을 나타낼 때에는 기호
를 사용합니다.
편의상 원소가 하나도 없는 집합을 생각하여 이것을 공집합(empty set)이라 하고 기호 Ø로 나타냅니다.
집합이 어떤 원소들로 이루어져 있는지를 나타내는 데에는 흔히 다음의 두 방법이 쓰입니다.
첫째로 집합을 이루고 있는 원소를 순서 없이 일렬로 나열한 다음에 { } 중괄호 로 묶어 나타내는 방법이 있습니다.
예를 들면 세 문자 a,b,c로 이루어진 집합A는
로 나타냅니다.
또 자연수 전체의 집합을 N이라 하면
으로 나타낼 수있습니다. 이와 같은 표시법을 원소나열법을 원소나열법(tabular form)이라 합니다.
둘째로, 집합에 속하는 각 원소 x가 만족하는 어떤 조건 p(x)를 제시함으로써 그 집합을 나타내는 방법이 있습니다. 이 때, 조건 p(x)를 만족하는 x들 전체의 집합은
로 나타냅니다. 또 조건 p(x)를 만족하는 S의 원소 x들 전체의 집합은
로 나타냅니다. 이와 같은 표시법을 조건제시법(set builder form)이라 합니다.
집합 A의 모든 원소가 집합 B에 속할 때, A를 B의 부분집합(subset) 이라 하고 이것을
로 나타냅니다. 특히 공집합과 A 자신은 집합 A의 부분집합입니다.
두 집합 A와 B사이에 A⊆B인 동시에 B⊆A인 관계가 있을 때, 이 두 집합은 같다(equal)고 말하고 이것을
로 나타냅니다. 집합 B의 부분집합 A가 B와 같지 않을 때, 즉 A⊆B이지만 A≠B일 때, A를 B의 진부분집합(proper subset)이라 하고 이것을
로 나타냅니다.
부분집합을 나타낼 때 기호 ⊆ 대신에 ⊂를 사용하고, 진부분집합을 나타낼때 기호 ⊂ 대신에 ⊊를 사용하기도 합니다.
두 집합 A 와 B 가 있을 때,
을 A와 B의 합집합(union)이라 하고
를 와 의 교집합(intersection) 이라 합니다. 또 집합 A 의 원소 a와 집합 B의 원소 b로 만든 순서쌍(ordered pair) (a ,b)전체의 집합을 A×B로 나타내고, 이것을 A
와 B의 곱집합 또는 데카르트 곱(Cartesian product) . 이라 합니다. 즉
특히 A×A를 간단히 A2으로 나타내기도 합니다.