한 땀 한 땀
“앞으로 클로드를 거친 텍스트에 워터마크가 박힌다”는 뉴스를 보고, 득달같이 클로드에 물었다. 이게
대체 무슨 말이냐고. 챗GPT에도 같은 결의 질문을 던져 교차검증을 하고, 두 AI가 근거라며 제시한 관
련 링크도 하나하나 열어보았다.
꽤 공들여 살폈으나 독자들에게 ‘앞으로 이렇게 바뀐다’라고 자신 있게 설명하긴 어렵다. 변명하자면,
클로드 측의 설명 또한 듬성듬성 구멍이 나 있다. 이해한 바로는 일단 워터마크처럼 텍스트에 ‘보이는
표식’이 생기는 것은 아니다. AI가 문장을 만들며 여러 단어 가운데 하나를 고르는 과정에서 일정한 통
계적 패턴을 남기고, 나중에 그 패턴을 바탕으로 클로드가 글에 관여했을 가능성을 판독한다. 다만 일
반 사용자가 이를 어떤 방식으로 검사하게 될지는 아직 명확하지 않다. 클로드 제작사인 앤트로픽은 탐
지 API를 곧 제공하겠다고 밝혔지만, 구체적인 구현 방식은 아직 정하는 중이라고 설명했다. 이 대목에
서 찜찜한 구석도 있다. 기준과 방식에 대한 충분한 공감대가 형성되지 않은 상황에서 오독과 오판이
생긴다면 또 누가 어떻게 가려낼까. 그 생각을 하니 대화창 아래 보험약관처럼 붙어 있는 “Claude는 AI
이며 실수할 수 있습니다. 응답을 다시 한번 확인해 주세요”라는 문구가 새삼 눈에 들어온다. AI가 자신
들의 패턴은 잘 알지 몰라도 우리는 뭐 얼마나 잘 알아서?라는 뾰족한 마음도 든다. 이런 의문 때문인지
정책이 알려지자 일부 사용자 사이에서는 볼멘소리가 나왔다.
그런데 클로드가 이런 정책을 내놓은 데는 공적 규제라는 배경이 있다. 지난 8월 2일부터 유럽연합의 AI
규정, 이른바 ‘EU AI Act’ 가운데 생성형 AI의 투명성 의무가 적용되기 시작했다. 생성형 AI가 만든 텍스
트나 이미지, 음성, 영상 등에 기계가 판독할 수 있는 표시를 남겨 AI가 생성하거나 조작한 콘텐츠인지
탐지할 수 있도록 하라는 내용이다.
규제의 직접적 목적은 나날이 정교해지는 딥페이크 등의 가상 콘텐츠로 인한 피해를 줄이고 사실과 조
작을 구분하기 위한 보호조치다. 그런데 이 조항을 가만 들여다보면 어떤 다짐도 엿보인다. 사람의 사
유와 열정과 시간을 들여 만든 창작물을 보호하고, 도구와 창작자의 자리를 구분하려는 의지 말이다.
AI는 실용성과 편리성을 극대화한 도구로 등장했으나, 그 도구에 대한 의존도가 갈수록 높아지는 것도
사실이다. 도구에 주도권까지 넘겨 주지 않도록 경계할 필요는 있다. 나무를 깎은 손 대신 끌에 공이 돌
아가는 상황을 반길 이는 많지 않을 테니까. 손수 지은 것에 대한 로망을 이번 호 테마로 잡은 우리 편집
자들이라면 더더욱. 우리가 만난 수공예가들은 도구를 손에 익히는 과정이 꼭 필요하다고 말한다. 그
처럼 AI를 사용하는 우리에게도 이리 두드려보고 저리 돌려보면서 합을 맞추는 시간이 필요할 테다.
○ 발행일 : 매월 25일 (± 2일)
○ 크기 : 228mm x 300mm
○ 페이지 : 100p
※ 배송일이 공휴일과 겹칠 경우, 배송이 지연될 수 있습니다.
※ 구독 결제 이후에 중도 해지되지 않는 점 참고 부탁드립니다.
※ 미착으로 인한 재발송 요청은 해당월에 고객센터로 연락주시면 처리해드리겠습니다. (단, 조기품절인 경우 대응이 어려우니 빠른 요청 부탁드립니다.)
한 땀 한 땀
“앞으로 클로드를 거친 텍스트에 워터마크가 박힌다”는 뉴스를 보고, 득달같이 클로드에 물었다. 이게
대체 무슨 말이냐고. 챗GPT에도 같은 결의 질문을 던져 교차검증을 하고, 두 AI가 근거라며 제시한 관
련 링크도 하나하나 열어보았다.
꽤 공들여 살폈으나 독자들에게 ‘앞으로 이렇게 바뀐다’라고 자신 있게 설명하긴 어렵다. 변명하자면,
클로드 측의 설명 또한 듬성듬성 구멍이 나 있다. 이해한 바로는 일단 워터마크처럼 텍스트에 ‘보이는
표식’이 생기는 것은 아니다. AI가 문장을 만들며 여러 단어 가운데 하나를 고르는 과정에서 일정한 통
계적 패턴을 남기고, 나중에 그 패턴을 바탕으로 클로드가 글에 관여했을 가능성을 판독한다. 다만 일
반 사용자가 이를 어떤 방식으로 검사하게 될지는 아직 명확하지 않다. 클로드 제작사인 앤트로픽은 탐
지 API를 곧 제공하겠다고 밝혔지만, 구체적인 구현 방식은 아직 정하는 중이라고 설명했다. 이 대목에
서 찜찜한 구석도 있다. 기준과 방식에 대한 충분한 공감대가 형성되지 않은 상황에서 오독과 오판이
생긴다면 또 누가 어떻게 가려낼까. 그 생각을 하니 대화창 아래 보험약관처럼 붙어 있는 “Claude는 AI
이며 실수할 수 있습니다. 응답을 다시 한번 확인해 주세요”라는 문구가 새삼 눈에 들어온다. AI가 자신
들의 패턴은 잘 알지 몰라도 우리는 뭐 얼마나 잘 알아서?라는 뾰족한 마음도 든다. 이런 의문 때문인지
정책이 알려지자 일부 사용자 사이에서는 볼멘소리가 나왔다.
그런데 클로드가 이런 정책을 내놓은 데는 공적 규제라는 배경이 있다. 지난 8월 2일부터 유럽연합의 AI
규정, 이른바 ‘EU AI Act’ 가운데 생성형 AI의 투명성 의무가 적용되기 시작했다. 생성형 AI가 만든 텍스
트나 이미지, 음성, 영상 등에 기계가 판독할 수 있는 표시를 남겨 AI가 생성하거나 조작한 콘텐츠인지
탐지할 수 있도록 하라는 내용이다.
규제의 직접적 목적은 나날이 정교해지는 딥페이크 등의 가상 콘텐츠로 인한 피해를 줄이고 사실과 조
작을 구분하기 위한 보호조치다. 그런데 이 조항을 가만 들여다보면 어떤 다짐도 엿보인다. 사람의 사
유와 열정과 시간을 들여 만든 창작물을 보호하고, 도구와 창작자의 자리를 구분하려는 의지 말이다.
AI는 실용성과 편리성을 극대화한 도구로 등장했으나, 그 도구에 대한 의존도가 갈수록 높아지는 것도
사실이다. 도구에 주도권까지 넘겨 주지 않도록 경계할 필요는 있다. 나무를 깎은 손 대신 끌에 공이 돌
아가는 상황을 반길 이는 많지 않을 테니까. 손수 지은 것에 대한 로망을 이번 호 테마로 잡은 우리 편집
자들이라면 더더욱. 우리가 만난 수공예가들은 도구를 손에 익히는 과정이 꼭 필요하다고 말한다. 그
처럼 AI를 사용하는 우리에게도 이리 두드려보고 저리 돌려보면서 합을 맞추는 시간이 필요할 테다.
○ 발행일 : 매월 25일 (± 2일)
○ 크기 : 228mm x 300mm
○ 페이지 : 100p
※ 배송일이 공휴일과 겹칠 경우, 배송이 지연될 수 있습니다.
※ 구독 결제 이후에 중도 해지되지 않는 점 참고 부탁드립니다.
※ 미착으로 인한 재발송 요청은 해당월에 고객센터로 연락주시면 처리해드리겠습니다. (단, 조기품절인 경우 대응이 어려우니 빠른 요청 부탁드립니다.)