Anthropic, 향후 Claude 텍스트에 워터마크 도입…작동 원리 공개

Anthropic이 향후 Claude 모델이 생성하는 텍스트에 워터마크를 적용할 계획이라고 8월 14일 밝혔다. 현재 모든 Claude 출력에 이미 적용됐다는 의미는 아니다. 회사는 유럽연합 AI법과 관련 투명성 규범에 대응하기 위한 조치라고 설명했다.

숨은 문자를 넣는 방식은 아니다

Anthropic이 채택한 방식은 Google DeepMind가 공개한 SynthID-Text 계열 기술이다. 언어 모델은 다음 단어를 고를 때 의미상 자연스러운 후보가 여러 개라면 확률적으로 하나를 선택한다. 워터마크는 이런 선택의 무작위성을 비밀 키와 앞선 단어에 연결해, 긴 텍스트에 통계적 패턴을 남긴다.

화면에 보이는 표식이나 숨은 문자를 추가하지 않으며 별도 토큰도 필요하지 않는다. 워터마크에는 사용자, 조직, 대화 내용을 식별할 정보가 들어가지 않는다고 Anthropic은 밝혔다. 회사 내부 시험에서는 문장의 품질과 가독성에 실질적인 차이가 없었다고 설명했지만, 이는 Anthropic과 관련 연구진의 평가 결과다.

짧은 글과 사실 문장에는 한계

이 방식은 Claude가 글에 관여했을 가능성을 추정할 뿐, 누가 작성했는지 확정하는 도구는 아니다. 표본이 짧거나 정답이 정해진 사실 문장, 코드처럼 단어 선택의 폭이 좁은 내용에서는 검출 신뢰도가 떨어질 수 있다. 사람이 작성한 글을 맞춤법 위주로 가볍게 고친 경우에도 워터마크가 충분히 남지 않을 수 있다.

반대로 문장을 전면적으로 다시 쓰면 패턴이 약해지거나 사라질 수 있다. Anthropic은 향후 워터마크 판별 API를 제공할 예정이라고 밝혔지만, 발표 시점에는 구체적인 공개 일정과 사용 조건을 확정하지 않았다.

이번 발표의 핵심은 AI 문장을 눈으로 구별하게 만드는 것이 아니라, 모델의 단어 선택 기록에서 통계적 신호를 찾는 데 있다. 실제 활용 단계에서는 오탐 가능성과 편집된 문장에 대한 한계를 함께 고려해야 한다.