인스타그램 한글로 쓴 ‘AI 댓글’도 걸러내는 기술 나왔다

페이지 정보

작성자 이길중 작성일25-06-27 05:56 조회1회 댓글0건

본문

인스타그램 특정 기사 댓글 작성자가 사람인지, 인공지능(AI)인지를 100%에 가깝게 정확히 판별할 수 있는 기술이 국내에서 개발됐다. 댓글을 통한 여론 조작에 능동적으로 대응할 길이 열릴 것으로 보인다.
김용대 카이스트 전기 및 전자공학부 교수팀과 국가보안기술연구소 등은 AI가 생성한 기사 댓글을 포착하는 소프트웨어인 ‘XDAC’를 개발했다고 23일 밝혔다. 해당 연구 결과는 다음달 오스트리아 빈에서 열리는 컴퓨터 분야 국제학술대회 ‘ACL 2025’에서 발표된다.
최근 등장하고 있는 고성능 AI는 기사 맥락에 맞춰 감정까지 조절한 댓글을 몇시간 만에 수십만개 자동 생성할 수 있다. 여론 조작이 AI로 간단히 이뤄질 수 있다는 뜻이다.
현재도 AI가 만든 댓글을 구별하는 기술은 있다. 하지만 대부분 영어 기반으로 만들어졌다. 기존 기술은 문자 분량도 250자 이상을 요구하는 등 긴 글에 적합하다. 국내 기사 댓글은 한국어로 쓰인 데다 분량도 평균 50자로 짧아서 기존 기술로는 작성자가 AI인지, 사람인지 알아내기가 어려웠다.
연구진은 이런 문제를 XDAC로 해결해 특정 기사 댓글의 작성자가 사람인지, AI인지를 98.5% 정확도로 알아내는 데 성공했다. 사실상 AI가 쓴 댓글의 거의 전부를 걸러낼 수 있는 성능을 갖춘 셈이다.
XDAC가 이런 높은 탐지율을 기록한 것은 고성능 AI의 일종인 ‘거대언어모델(LLM)’ 14종으로 생성한 기사 댓글 패턴을 차곡차곡 쌓아 ‘데이터 세트’를 구축했기 때문이다. 이를 정밀 분석한 결과, AI가 생성한 댓글에는 진짜 사람과는 구별되는 말투가 있었다. AI는 ‘~에 대해’ 같은 정형화하고 딱딱한 어법을 즐겨 썼다. 논리적이며 자연스러운 말을 만들기 위해 ‘그리고’ ‘그러나’ 같은 접속어도 자주 사용했다.
반면 진짜 사람은 감정을 표현하려고 기사 댓글에 특정 문자를 연달아 사용하는 일이 두드러졌다. ‘ㅋ’이 아니라 ‘ㅋㅋㅋㅋㅋ’처럼 썼다는 뜻이다. 여러 칸 띄어쓰기 같은 댓글 작성 습관도 사람에게 더 많이 나타났다. 격한 감정이 키보드의 스페이스 바를 여러 번 두드리는 행동으로 표현된 것이다.
연구진은 XDAC 존재 사실이 널리 알려지면 기사 댓글 조작을 예방하는 효과도 나타날 것으로 기대했다. 골목에 설치된 폐쇄회로(CC)TV가 범죄 억제 효과를 보이는 것과 비슷한 원리다. XDAC를 쓰면 댓글 조작에 어떤 LLM 제품이 동원됐는지도 알 수 있다. 여론 조작 세력을 찾기 위한 단서를 확보하는 데 도움이 된다.
이번 연구를 다룬 논문의 제1저자인 고우영 국가보안기술연구소 선임연구원은 “AI 기반 여론 조작에 대응하기 위한 바탕을 마련한 데에 큰 의의가 있다”고 밝혔다.
김재인 경희대 비교문화연구소 교수는 25일 “인공지능(AI)에 의사결정을 의탁하기 시작하면 인간은 기계의 노예로 전락할 것”이라고 말했다.
김 교수는 이날 서울 중구 롯데호텔에서 열린 <2025 경향포럼> 강연에서 ‘기계에 격노해야 한다’라는 주제로 강연하며 이같이 말했다. 김 교수는 “빼앗기면 되찾을 수 있으나 내어주면 되돌릴 수 없다”는 드라마 ‘미스터선샤인’의 대사를 인용하며 강연을 시작했다. 김 교수는 “최근 사람들은 글을 쓰고 자료를 분석하는 등 의사결정이 필요한 일도 인공지능에 떠넘기고 있다”며 “본인의 역량을 내어주는 방식으로 인공지능에 의탁해서는 안 된다”고 말했다.
김 교수는 ‘인공지능에 의사 결정을 맡기는 일’을 “충분한 사고 훈련을 거치지 않은 초중고 학생에게 계산기부터 쥐여주는 일”이라고 비유했다. 김 교수는 수리적이고 논리적으로 사고하는 훈련을 거치지 않고 곧바로 계산기를 사용하면 다른 고도의 작업을 수행할 수 없다고 했다. 김 교수는 마찬가지로 스스로 사고하는 훈련을 하지 않고 인공지능에 의사결정을 맡기면 지능적으로 퇴화할 수밖에 없다고 설명했다. 김 교수는 “평균 지능의 절댓값이 떨어지면 대부분의 인간들의 지능이 퇴화하는 연쇄 작용이 일어날 것이고 이러한 지능의 퇴화는 불과 몇 세대만 거치면 충분히 일어나게 될 것”이라고 말했다.
그는 이러한 사고 능력의 퇴화가 벌어지면 포용과 배려, 민주주의와 성평등 등 인간이 세운 가치와 문명도 함께 퇴보할 것이라고 경고했다. 김 교수는 “인간 문명과 가치의 진보는 스스로 사고하도록 교육받은 다수의 인구가 없었다면 이루어질 수 없었을 것”이라며 “생각할 힘을 스스로 내던지게 되면 굳이 이런 가치들을 왜 배우고 훈련해야 하는지 의문을 제기하는 반지성의 힘이 커질 것”이라고 말했다.
김 교수는 스스로 사고하는 능력을 키우기 위해 반복적으로 훈련해야 한다고 강조했다. 그는 “생각하는 활동은 운동과 유사해서 반복적인 훈련을 통해서만 현상을 유지하거나 탄탄해질 수 있다”며 “운동을 하듯 생각의 근육을 키워나가야 한다”고 말했다. 김 교수는 “인간만이 가진 독창성을 포기해선 안 된다”고도 말했다. 그는 “인간 문명이 차곡차곡 발전할 수 있었던 것은 누군가 현재를 넘어서서 저항하고 경계했기 때문”이라며 “우리 인간들은 조금 더 용감하고 버릇없게 모험하고 도전해야 한다”고 말했다.
지난달 한국의 대미 철강 수출이 전년 동기보다 16% 감소하고, 수출 단가도 9% 이상 하락한 것으로 나타났다.
23일 한국무역협회에 따르면 지난달 한국의 대미 철강 수출액은 3억2700만달러로, 지난해 같은 기간(3억9000만달러)보다 16.3% 줄었다. 수출 단가는 지난해 5월 t당 1429달러에서 올해 5월 1295달러로 9.4% 낮아졌다. 올해 월별 수출 물량은 비교적 비슷한 수준을 유지했지만, 수출 단가는 5월 들어 급격히 하락했다.
대미 철강 수출량은 1월 21만7000t, 2월 24만2000t, 3월 25만t, 4월 24만8000t, 5월 25만2000t 등으로 3월 관세 부과 이후에도 감소세가 나타나지 않았다. 반면 수출 단가는 1~4월 t당 1500달러 안팎을 유지하다 5월에는 1295달러로 떨어졌다. 4월과 비교하면 한 달 만에 14.6% 하락했다.
이는 관세 부담을 줄이기 위해 국내 철강 업체들이 단가를 낮춰서라도 수출 물량을 유지한 데 따른 결과로 분석된다. 수개월 전 주문이 이뤄지는 철강업계의 거래 관행상 지난 4월까지는 3월에 부과되기 시작한 미국발 관세 영향이 제한적이었지만, 5월부터는 관세 충격이 본격적으로 반영되기 시작했다는 분석도 있다.
업계에서는 미국이 지난 4일부터 한국산 철강에 부과하는 관세를 25%에서 50%로 인상함에 따라 하반기 대미 수출이 더 큰 타격을 받을 것으로 본다. 특히 내년부터 일본제철의 미국 US스틸 인수 효과가 본격적으로 나타날 것으로 예상돼 한국산 철강의 미국 수출 전망을 어둡게 하고 있다.
철강업계 한 관계자는 “국내 기업들은 관세 때문에 단가를 조정할 수밖에 없다”며 “앞으로 더 중요한 요소는 미국 내 철강 수요로, 자동차 등 미국 시장 흐름을 더 봐야 한다”고 말했다. 미국 제조업이 필요로 하는 고부가 제품은 현지 철강 생산능력의 한계로 외국산에 의존하고 있다.

댓글목록

등록된 댓글이 없습니다.

댓글쓰기

이름 필수
비밀번호 필수
비밀글사용
자동등록방지	자동등록방지 자동등록방지 숫자를 순서대로 입력하세요.
내용

인스타그램 한글로 쓴 ‘AI 댓글’도 걸러내는 기술 나왔다 > 아시아대회

인스타그램 한글로 쓴 ‘AI 댓글’도 걸러내는 기술 나왔다

페이지 정보

관련링크

본문

댓글목록