문제는 회원이 AI를 쓴다는 것이 아닙니다. 쓰기는 공짜가 되었는데 읽기는 여전히 비싸다는 것입니다. 만드는 데 아무 비용도 들지 않은 게시물도 나머지 모두의 주의력은 그대로 가져갑니다. 그리고 그 불균형이 가장 먼저 드러나는 곳이 커뮤니티입니다.
이 주제로 쓰인 방침은 거의 모두 같은 이유로 실패합니다. 읽을 만한 글인지가 아니라 어떻게 쓰였는지를 규제하려 들기 때문입니다.
구별할 수 없고, 구별하려는 시도는 해를 끼칩니다
여기서 시작합니다. 나머지 모든 것이 여기에 달려 있기 때문입니다.
탐지 도구는 믿을 만하게 작동하지 않으며, 그 오류가 무작위로 흩어지지도 않습니다. 영어가 모국어가 아닌 작성자, 격식 있게 쓰는 사람, 문장이 정확한 자폐 회원, 그리고 템플릿을 쓰는 사람이라면 누구든 걸러냅니다. 탐지기 결과에 따라 조치하는 커뮤니티는 결국 그 집단에 속한 무고한 회원들을 불균형하게 많이 지목하게 되며, 잘못된 지목 하나하나가 아무 잘못도 하지 않은 사람 한 명을 잃게 만듭니다.
여러분 자신의 직감도 더 낫지 않습니다. 기계가 쓴 글을 자신 있게 가려내는 것은 거의 아무도 갖지 못한 능력이며, 자신에게 그 능력이 있다고 확신하는 사람도 예외가 아닙니다. 이 글의 나머지가 확인할 수 없는 저자성이 아니라 관찰할 수 있는 행동을 다루는 이유가 바로 그것입니다.
실제로 잘못되고 있는 것
진짜 불만이 무엇인지 이름을 붙이십시오. “AI 같다”는 말은 서로 다른 해법이 필요한 세 가지 문제를 뭉뚱그린 대리 표현이기 때문입니다.
책임 없는 양. 어떤 사람이 자신과 아무 이력도 없는 주제에 대해 한 시간에 여섯 개의 긴 답변을 올립니다. 문제는 문장이 아니라 그 뒤에 아무도 없다는 점입니다.
자신 있는 오답. 유창하고 구조가 잘 잡혔으며 그럴듯한데 틀린 답변입니다. 이것은 대놓고 형편없는 답변보다 더 나쁩니다. 알아채려면 전문가여야 하지만, 믿어버리는 데는 초보자면 충분하기 때문입니다.
군더더기. 한 문단이면 될 것을 네 문단으로 늘리고, 답하기 전에 질문을 다시 늘어놓습니다. 회원들은 이유를 말로 설명하지 못할 때조차 이것을 무례로 읽습니다.
네 가지 방침
이 중에서 실제 커뮤니티와 부딪혀 살아남는 것은 하나뿐입니다.
| 방침 | 걸러내는 것 | 치르는 대가 |
|---|---|---|
| AI 사용 전면 금지 | 믿을 만하게 걸러내는 것은 없습니다. 애초에 집행이 불가능합니다 | 번역이나 다듬기에 AI를 쓴 정직한 회원들 |
| 사용 사실 공개 의무화 | 양심적인 사람들만, 그런데 그들은 문제가 아니었습니다 | 대가는 거의 없지만, 얻는 것도 거의 없습니다 |
| 탐지 도구 사용 | 거짓 양성, 그것도 비원어민 작성자 쪽으로 치우친 | 신뢰, 그리고 억울하게 지목당한 회원들 |
| 노력과 책임으로 판단 | 여러분이 실제로 문제 삼고 있던 그 행동 | 모더레이터의 판단력, 이것이 진짜 비용입니다 |
네 번째만이 효과도 있고 공정하기도 한 유일한 방침입니다. 게다가 이 방식에는 노력 없이 쓴 사람의 게시물까지 이미 포괄한다는 유용한 성질이 있습니다. 그런 게시물은 이 모든 일이 벌어지기 훨씬 전부터 문제였습니다.
통하는 기준: 후속 질문에 답할 수 있는가
책임은 관찰할 수 있습니다. 저자성은 관찰할 수 없습니다.
누군가 상세한 답변을 올려놓고 “왜 다른 방식이 아니라 그 방식으로 하시겠습니까”라는 질문에 답하지 못한다면, 중요한 의미에서 그 글은 그 사람의 것이 아니었습니다. 무엇이 썼는지와는 상관없습니다. 모델로 초안을 잡았더라도 그 내용을 진짜로 이해하고 있는 사람은 후속 질문을 어렵지 않게 받아냅니다. 그런 사람은 여러분의 문제가 아닙니다. 오히려 더 나은 회원 중 한 명일 수 있습니다.
이 기준은 공개적으로 밝히기에도 공정합니다. 나머지 셋은 그렇지 않습니다. “자신이 올린 글을 책임질 수 있을 것”은 커뮤니티 행동 강령에 넣을 수 있습니다. “기계처럼 들리지 말 것”은 넣을 수 없습니다.
AI를 금지하면 비원어민 회원이 가장 먼저 밀려납니다
이 결과는 충분히 예측할 수 있는데도 한결같이 간과됩니다.
세 번째 언어로 글을 쓰는 회원에게 모델은 참여와 침묵을 가르는 차이입니다. 난독증이 있는 사람에게도, 자신에게 익숙한 직업적 문체 밖에서 써야 하는 사람에게도 마찬가지입니다. AI 금지 규정은 악의적인 게시자를 한 명이라도 걷어내기 전에 그런 기여부터 걷어냅니다. 악의적인 게시자는 규칙을 무시하기 때문입니다.
커뮤니티가 여러 언어에 걸쳐 있다면 유창성 보조는 정당한 사용으로 인정하고, 그렇다고 명시적으로 밝히십시오. 그러지 않으면 여러분의 규칙은 조용히 “자신 있는 영어로 쓰든지 아니면 쓰지 말든지”를 뜻하게 됩니다. 이것이 다국어 커뮤니티 운영에서 다룬 결말입니다.
게시 비용을 아주 조금만 올리십시오
구조적인 해법은 모델 혼자서는 채워 넣을 수 없는 것을 요구하는 것입니다.
무엇을 시도했는지, 무슨 일이 일어났는지, 어떤 제약이 있는지 같은 구체적인 정보를 요구하는 질문 양식은 그 경험을 해본 사람만 쓸 수 있는 답변을 끌어냅니다. 일반적인 질문은 일반적인 답변을 부릅니다. 예전부터 늘 그랬고, 쏟아지는 글이 그 사실을 눈에 띄게 만들었을 뿐입니다.
글을 올리는 것보다 답글을 다는 것에 보상하십시오. 양을 떠받드는 커뮤니티는 양을 얻습니다. 그리고 이제 양은 공짜입니다. 어려운 질문에 잘 답한 사람을 눈에 띄게 대우하는 커뮤니티는 더 적고 더 나은 글을 얻습니다. 구체적인 작동 방식은 커뮤니티 참여 전략에 있습니다.
그냥 스팸일 때는 스팸으로 다루십시오
운영자들이 AI 문제라고 부르는 것 중 상당 부분은 유창해진 옛날 문제입니다.
홍보 게시물, 링크 농장, 서로 무관한 아홉 개의 스페이스에 걸쳐 글을 뿌리는 계정은 사람이 썼든 모델이 썼든 스팸입니다. 이런 것들이 쉬운 사례입니다. 규칙 기반으로 처리하면 되고, 판단이 필요 없으며, 누가 썼는지를 따질 이유도 전혀 없습니다. 자동화가 진짜로 도움이 되는 지점은 커뮤니티를 위한 AI 모더레이션을 참고하십시오.
이것들을 먼저 떼어내는 일이 중요합니다. 그러고 나면 정말로 애매한 게시물 더미만 훨씬 작게 남고, 그 정도 분량은 사람이 직접 읽어낼 수 있기 때문입니다.
같은 규칙을 스스로에게도 적용하십시오
운영자도 모델로 공지를 씁니다. 그리고 회원들은 여러분의 목소리를 알기 때문에 그쪽은 더 쉽게 알아챕니다.
기준은 여러분이 회원들에게 적용하는 것과 같습니다. 자기가 내놓은 글을 책임질 수 있어야 합니다. 모델이 초안을 잡았더라도 여러분이 손보았고 진심으로 하는 말이라면 괜찮습니다. 기계가 초안을 잡은 사과문은 그렇지 않습니다. 그 이유는 온라인 커뮤니티 모더레이션 방법에서 다뤘습니다. 사과의 가치는 전부 사람이 그 말을 직접 골랐다는 데 있기 때문입니다.
회원의 직접적인 질문에 모델이 답하게 해놓고 여러분이 답한 것처럼 두는 일은 절대 하지 마십시오. 그 답이 틀린 것으로 드러나면 어느 쪽이든 책임은 여러분에게 있고, 게다가 읽어보지도 않은 것에 신뢰를 써버린 셈이 됩니다.
규칙은 행동의 언어로 적으십시오
세 줄이면 거의 모든 경우를 덮으며, 그중 어느 것도 AI를 언급하지 않습니다.
책임지고 이야기를 이어갈 수 있는 글을 올리십시오. 도배하지 마십시오. 잘 생각한 글 몇 개가 빠르게 쓴 글 여러 개보다 낫습니다. 자신의 경험이 아닌 것을 자신의 경험인 것처럼 내놓지 마십시오. 이렇게 써두면 규칙은 글을 부풀리는 사람과 글을 붙여 넣는 사람에게 똑같이 적용됩니다. 그것이 정확히 맞습니다. 커뮤니티는 그 둘을 똑같이 겪기 때문입니다.
사용 사실을 밝히는 관행까지 두고 싶다면 강제가 아니라 문화로 만드십시오. 모델의 도움을 받아 초안을 잡았다고 사람들이 언급하는 것은 건강한 일이고, 언급했는지를 단속하는 것은 그렇지 않습니다. 이것을 의도적으로 도입하는 방법은 커뮤니티에서 AI를 활용하는 방법을 참고하십시오.
결론
기계가 쓴 글을 가려내려는 시도는 그만두십시오. 가려낼 수 없을뿐더러, 그 시도의 타격이 가장 크게 떨어지는 쪽은 아무 잘못도 하지 않은 회원들이기 때문입니다.
글은 누군가 그것을 책임질 수 있는지로 판단하고, 명백한 스팸은 스팸으로 처리하고, 진짜 구체적인 정보가 필요한 질문을 던지고, 여러분 자신의 공지에도 같은 규칙을 적용하십시오. 이 시기를 잘 통과할 커뮤니티는 산출물이 아니라 책임을 중심에 두고 있던 곳들일 것입니다. 나머지는 무엇인가가 값싼 말을 대량으로 생성해내기 훨씬 전부터 이미 그 홍수에 취약했습니다.