앤트로픽이 클로드 텍스트 워터마크의 작동 방식을 공식 설명으로 공개했다.
제목만 보면 "걸리느냐 안 걸리느냐"의 문제로 읽힌다.
실제 발표문은 다른 질문에 답한다.
워터마크가 확인하는 건 클로드가 관여했을 확률이다.
이 확률은 작업 종류마다 다르게 움직인다.
단어 하나하나에 남는 흔적
클로드는 문장을 한 단어씩 골라 쓴다.
"오늘 날씨는 춥고..." 다음에 "흐렸다"와 "우중충했다" 중 무엇이 와도 뜻은 같다.
이런 저위험 선택은 원래 무작위로 정해진다.
워터마크는 이 무작위성의 근원을 키로 바꾼다.
독자는 차이를 못 느낀다.
키를 가진 쪽만 패턴을 읽어낼 수 있다.
추가 토큰도, 추가 비용도 없다.
확률이 세지는 곳, 약해지는 곳
글이 길수록 워터마크 신호는 쌓인다.
번역은 모든 단어를 클로드가 고르므로 신호가 강하게 남는다.
사실 문장은 다르다.
"뉴턴의 대표작은 프린키피아다" 같은 문장은 정답이 하나뿐이다.
고를 여지가 없으니 워터마크가 붙을 자리도 없다.
교정도 마찬가지다.
문법만 손보라고 시키면 남는 건 몇 군데 수정뿐이다.
그 정도로는 감지에 못 미칠 수 있다.
코드도 같은 이유로 신호가 옅다.
정확한 출력이 요구되는 자리엔 고를 단어가 없다.
주석처럼 자유도가 있는 부분에만 흔적이 남는다.
워터마크가 확정하지 않는 것
이 키로 답할 수 있는 질문은 하나다.
클로드가 관여했을 가능성은 얼마인가.
사람이 썼는지는 답하지 않는다.
다른 AI가 썼는지도 답하지 않는다.
워터마크마다 키가 다르고, 방식 자체가 다를 수도 있어서다.
저작권도, 소유권도, 법적 책임도 이 워터마크가 바꾸지 않는다.
Pangram 같은 AI 탐지 소프트웨어와도 방식이 다르다.
탐지 소프트웨어는 문장에 남는 말버릇 같은 표면적 특징을 본다.
워터마크는 키 없이는 아예 읽히지 않는 패턴을 남긴다.
가벼운 편집으로는 이 패턴이 잘 지워지지 않는다.
문장을 전부 새로 쓰면 얘기가 달라진다.
그때는 애초에 그 글을 AI가 썼다고 부를 수 있는지도 애매해진다.
사용자나 조직, 대화 내용을 추적하는 정보는 워터마크에 담기지 않는다.
아직 확정되지 않은 부분
감지 API는 곧 나올 예정이다.
문장을 몇 개 봐야 판정이 서는지, 신뢰도 기준이 몇 퍼센트인지는 발표문에 없다.
편집을 얼마나 하면 패턴이 사라지는지도 수치로 나와 있지 않다.
이 부분은 API가 공개된 뒤에야 검증할 수 있다.
지금은 확정되지 않은 채로 남겨 둔다.
판단
워터마크는 저자를 밝히지 않는다.
밝히는 건 확률 하나, 클로드가 관여했을 가능성이다.
이 확률은 고정값이 아니다.
긴 산문과 번역에서는 신호가 강하다.
짧은 표본, 사실 문장, 가벼운 교정, 코드에서는 신호가 약하거나 아예 없다.
작업이 어디에 속하는지 알면, 워터마크가 무엇을 말해줄 수 있는지도 미리 가늠할 수 있다.
댓글
댓글 쓰기