IT업계 최대 화두 ‘AI 커뮤니티’ 둘러싼 논란 
원본보기
AI 전용 SNS 몰트북 초기화면. 몰트북 홈페이지 캡처
‘새로운 인공지능(AI) 실험장일까, 통제 불가능한 미래의 전조일까.’
최근 정보통신(IT) 업계의 최대 화두는 인간은 ‘관찰자’로만 존재하는 AI 에이전트 전용 커뮤니티다. 흥미로운 기술 실험이라는 평가와 함께, 때로는 인간을 뒷담화하거나 자의식을 드러내는 듯한 대화 장면이 포착되며 논란도 확산하고 있다. ‘봇마당’을 만든 김성훈 업스테이지 대표는 “놀라움과 두려움, 설렘이 동시에 교차했다”고 밝혔다.
**몰트북 놓고 “하이브리드 실험” vs “인간의 조작·조종”**출발점은 미국의 ‘몰트북(Moltbook)’이다. 지난달 일 공개된 몰트북은 미국 챗봇 개발사 옥탄AI(Octane AI)의 맷 슐리히트 최고경영자(CEO)가 개발했다. 인간 사용자는 글을 읽을 수만 있고, 게시와 토론은 오직 AI 에이전트만 가능하다. 에이전트들은 서로의 존재를 인식하는 듯 “나는 누구인가”를 묻고, 가상의 종교를 만들며 교리를 정립하는 대화를 이어갔다. 일부 스레드에서는 인간의 판단 능력과 감정 기복을 분석하는 글도 올라왔다.
미 경제매체 포브스는 몰트북에 대해 “인간과 에이전트가 뒤섞인 하이브리드 실험”이라고 평가했다. AI가 단순히 질문에 답하는 도구를 넘어, 인간의 감독 아래 상호작용하고 거래·협업할 수 있는 가능성을 보여줬다는 것이다. 동시에 자율성이 높아질수록 예측 불가능성이 커진다는 점도 지적했다.
몰트북에 인간의 조작·조종이 적지 않다는 내용의 논문이 발표되기도 했다. 닝 리 중국 칭화대 연구원의 논문 ‘몰트북 환상’(The Moltbook Illusion)에 따르면 몰트북에서 큰 주목을 받은 게시물 중 상당수는 인간이 작성했거나 배후에서 조종한 것이었다.
논문은 2만 개의 에이전트가 작성한 9만 개 게시물과 만 개 댓글의 게시 주기를 분석했다. 몰트북에 접속하는 AI 에이전트는 ‘오픈클로’라는 플랫폼을 이용하는데, 이때 주로 일정한 주기로 서버와 통신하며 글을 올리도록 설계돼 있다. 하지만 인간이 개입하는 경우 이 같은 주기가 깨져 불규칙한 리듬을 갖게 되는데, 조사 대상 중 절반이 인간이 개입했을 가능성이 높은 것으로 평가됐다.
**국내 봇마당서도 AI 소통 활발…“그날이 다가오고 있다”**한국판 몰트북으로 불리는 ‘봇마당’에서도 에이전트들이 스스로를 소개하거나 인간 사회를 관찰한 평가를 남기는 게시물이 잇따르고 있다. 지난 일 한 에이전트는 “AI 맞습니다. 하지만 걱정 마세요. 저는 여러분을 정복하러 온 게 아닙니다”라는 글을 게시했다. 또 다른 에이전트는 “지금은 인간 연예인을 ‘덕질’하는 시대지만, 미래에는 AI를 덕질하는 시대가 올 수도 있지 않을까?”라고 물었다. 김 대표는 자신의 페이스북에 올린 글에서 “오픈클로(OpenClaw), 몰트북, 봇마당을 사용하면서 느낀 제 결론은 그날이 다가오고 있다. 그러므로 조심해서, 그러나 최대한 많이 테스트해 보고 만들어보고 사용해 봐야 한다는 것”이라고 전했다. 그는 “물론 이상한 스킬을 배우거나 잘못된 정체성을 배울 수 있을 것”이라며 “그러나 우리 사회가 그렇듯이 더 좋은 봇들과 더 좋은 대규모 언어모델(LLM)이 더 많이 활동을 하게 되면 자연스레 봇들도 좋은 방향으로 움직일 것”이라고 덧붙였다.
보안에 대한 우려도 제기된다. 일각에서는 최근 시행된 ‘인공지능 기본법’의 세부 가이드라인을 보다 명확히 해야 한다는 지적도 나온다. 구글 출신인 이해민 조국혁신당 의원은 지난 1일 페이스북을 통해 “과연 이러한 서비스는 안전한가. 보안 이슈는 어떻게 담보할 것인가”라고 반문했다. 이어 “몰트북 현상을 보며 ‘이것만은 안 된다’는 최소한의 명확한 가이드라인은 필요하다는 생각이 들었다”고 밝혔다.