핵산 분해효소의 한 종류이다.
유전공학에서 재조합 DNA(디옥시리보핵산)를 만들기 위해서 사용하는 특수한 효소이며 제한이란, 이질(異質)의 숙주(宿主) 중에서 증식한 DNA의 침입을 받았을 때 그 DNA와 자기의 DNA를 식별하고 분해해 버리는 현상을 말한다, 그리고 그런 작용을 하는 효소를 제한효소라고 한다. 이와 반대로 제한효소가 인식하는 염기배열 중의 특정한 염기를 메틸화하여 제한을 받지 않는 상태로 DNA를 일시적으로 변화시키는 현상을 수식(修飾)이라고 하고, 이런 작용을 하는 효소를 수식효소라고 한다.
제한효소는 그 특성(절단양식이나 활성발현인자 등)에 의해 Ⅰ, Ⅱ, Ⅲ형의 3군(群)으로 대별된다. Ⅰ형 효소는 활성발현에 APT, S-아데노실메티오닌 및 마그네슘이온(Mg2+)을 필요로 하고, DNA 속의 인식염기배열로부터 떨어진 부위를 절단하는데 그 위치는 일정하지 않아 유전공학 적으로 사용이 잘 되지 않는다. Ⅱ형효소는 유전공학에서 널리 사용되는 것으로 활성발현에 마그네슘이온을 필요로 하여 DNA분자의 특정한 염기배열을 인식하고 그 부위 또는 인식염기배열로부터 일정 염기 떨어진 인접부위를 정확하게 절단하는게 가장 큰 특징이다. 그리고 이 효소의 인식염기배열은 3~6개의 2회전 대칭구조를 취하고 있는 경우가 많다. Ⅲ형효소는 활성발현에 APT와 마그네슘이온을 필요로 하고, DNA 속의 인식염기배열로부터 수십 염기 떨어진 부위를 절단하기 때문에 잘 사용이 안된다.