AI로 썼다고 밝히면 손해일까, 남이 먼저 드러낼 때가 더 손해였다

상품 상세페이지 문구를 AI로 다듬고, 밤사이 들어온 문의에는 AI 챗봇이 답하게 해 두었습니다. 그런데 페이지 아래에 “이 글은 AI의 도움을 받아 작성했습니다”라고 적는 순간 손님이 우리를 덜 믿게 될까요? 밝히지 않았다가 나중에 알려지면 어떻게 될까요? 이 질문에 답한 실험들을 따라가 보면, 고민의 초점이 ‘밝힐까 말까’에서 ‘어떻게 밝힐까’로 옮겨 갑니다.

‘AI가 썼다’는 한 줄이 같은 글의 점수를 바꿨습니다

Li 연구팀은 먼저 407명에게 글을 쓰게 했습니다. 혼자 쓰거나, 초안은 직접 쓰고 ChatGPT에게 다듬기만 맡기거나, 내용을 만드는 데까지 ChatGPT의 도움을 받는 세 가지 방식이었습니다. 그다음 또 다른 786명에게 이 글들을 별점 1~5점으로 평가하게 했습니다. 절반에게는 글이 어떻게 쓰였는지 알려 주고, 나머지 절반에게는 알려 주지 않았습니다.

결과는 같은 글이라도 ‘AI가 내용을 만들었다’는 사실을 알면 평가가 낮아진다는 것이었습니다. 주장을 펴는 글과 이야기를 짓는 글 모두에서 그랬습니다. 흥미로운 차이도 있었습니다. AI가 문장을 다듬기만 했다고 알렸을 때, 주장 글의 평가는 거의 그대로였지만 이야기 글은 낮아졌습니다. 정보를 전하는 글에서는 손질 정도의 도움을 크게 문제 삼지 않지만, 창작에서는 그마저도 감점 요인이 된다는 뜻으로 읽힙니다.

순위로 보면 차이는 훨씬 극적이었습니다

그림에서 보듯 평균 별점의 차이는 1점에 한참 못 미쳐 작아 보입니다. 하지만 ‘상위권에 누가 남는가’를 보면 이야기가 달라집니다. 주장 글 가운데 점수 상위 10%만 추렸을 때, 작성 방식을 알리지 않은 경우에는 AI가 내용을 만든 글이 63.6%를 차지했습니다. 작성 방식을 알리자 그 비율이 24.5%로 떨어졌습니다. 알리지 않았을 때는 AI가 내용을 만든 글이 혼자 쓴 글보다 오히려 높은 점수를 받았는데, 그 사실을 아는 순간 상위권에서 밀려난 셈입니다. 다만 이야기 글에서는 순위 변화가 뚜렷하지 않았고, 평가자는 온라인으로 모집한 일반인이었습니다.

그렇다고 숨기면, 들켰을 때 더 크게 잃습니다

Schilke와 Reimann은 상사·교수·분석가·창작자·투자회사처럼 다양한 대상을 두고 13개의 실험을 했습니다. 모든 실험에서 AI 사용을 밝힌 쪽이 밝히지 않은 쪽보다 덜 신뢰받았습니다. 그런데 같은 연구에서 더 중요한 장면이 나옵니다. 본인이 밝히지 않았는데 다른 사람이 AI 사용을 드러낸 경우, 신뢰는 스스로 밝혔을 때보다 더 크게 떨어졌습니다. 기술을 긍정적으로 보거나 AI가 정확하다고 믿는 사람들에게서는 이 불이익이 작았지만 사라지지는 않았습니다.

모든 연구가 같은 방향을 가리키지는 않습니다. 뉴스를 대상으로 한 연구 47편을 검토한 Licenji와 Hoxha는 AI 작성에 대한 독자 반응이 기사 종류와 매체의 신뢰도, 독자 특성에 따라 달라졌다고 정리했습니다. 공개 문구의 효과만 따로 본 10편에서도 신뢰가 일관되게 떨어지지는 않았습니다. 정리하면 이렇습니다. 밝히면 손해를 볼 수 있지만, 숨겼다가 알려지면 더 큰 손해를 볼 수 있습니다.

갈림길은 ‘사람의 마음이 필요한 글인가’입니다

사용자 경험 연구 기관 NN/g는 이 연구들을 모아 하나의 경향을 짚었습니다. 독자가 사람의 진심이나 창의를 기대하는 글일수록 AI 공개에 민감하다는 것입니다. 브랜드의 SNS 게시물, 감사 편지, 업무 이메일에서는 AI 사용을 밝히자 진정성과 신뢰 평가가 떨어졌습니다. 반대로 예약 안내처럼 정보만 전하는 글은 반응이 약할 것으로 봤습니다. 규정의 문제도 현실이 됐습니다. 유럽연합은 2024년에 AI 법을 채택했고, 특정 경우 AI 생성 콘텐츠를 알려야 하는 의무가 2026년 8월부터 적용되기 시작했습니다.

NN/g는 판단을 다섯 가지 질문으로 묶어 PACED라고 불렀습니다. 법이나 플랫폼이 공개를 요구하는지, 우리 손님이 AI를 어떻게 보는 사람들인지, 사람의 진심이 중요한 글인지, 나중에 알게 되면 속았다고 느낄지, 그리고 AI가 얼마나 많이 기여했는지입니다. 온라인 사업에 대입해 보면 답이 비교적 선명해집니다. 상품 사양을 정리한 문구나 챗봇의 배송 안내는 정보 전달이 목적이니 짧게 밝혀도 잃을 것이 적습니다. 반면 단골에게 보내는 감사 메시지나 불만 고객에게 보내는 사과처럼 관계가 걸린 글은, 사람이 직접 쓰거나 적어도 마지막 문장만큼은 직접 고치는 편이 안전합니다.

AI를 쓰는 것 자체보다, 손님이 남에게서 그 사실을 처음 듣게 되는 상황이 더 큰 위험입니다.