폰테크 신청 특정 기사 댓글의 작성자가 사람인지 인공지능(AI)인지를 100%에 가깝게 정확히 판별할 수 있는 기술이 국내에서 개발했다. 댓글을 통한 여론 조작에 능동적으로 대응할 길이 열릴 것으로 보인다.
김용대 카이스트(KAIST) 전기 및 전자공학부 교수팀과 국가보안기술연구소 등은 AI가 생성한 기사 댓글을 포착하는 소프트웨어인 ‘XDAC’를 개발했다고 23일 밝혔다. 해당 연구 결과는 다음달 오스트리아 빈에서 열리는 컴퓨터 분야 국제학술대회 ‘ACL 2025’에서 발표된다.
최근 등장하고 있는 고성능 AI는 기사 맥락에 맞춰 감정까지 조절한 댓글을 몇 시간 만에 수십만개 자동 생성할 수 있다. 여론 조작이 AI로 간단히 이뤄질 수 있다는 뜻이다.
현재도 AI가 만든 댓글을 구별하는 기술은 있다. 하지만 대부분 영어 기반으로 만들어졌다. 기존 기술은 문자 분량도 250자 이상을 요구하는 등 긴 글에 적합하다. 국내 기사 댓글은 한국어로 쓰인 데다 분량도 평균 50자로 짧아서 기존 기술로는 작성자가 AI인지 사람인지 알아내기가 어려웠다.
연구진은 이런 문제를 XDAC로 해결해 특정 기사 댓글의 작성자가 사람인지 AI인지를 98.5% 정확도로 알아내는 데 성공했다. 사실상 AI가 쓴 댓글의 거의 전부를 걸러낼 수 있는 성능을 갖춘 셈이다.
XDAC가 이런 높은 탐지율을 기록한 것은 고성능 AI의 일종인 ‘거대언어모델(LLM)’ 14종으로 생성한 기사 댓글 패턴을 차곡차곡 쌓아 ‘데이터 세트’를 구축했기 때문이다. 이를 정밀 분석한 결과, AI가 생성한 댓글에는 진짜 사람과는 구별되는 말투가 있었다. AI는 ‘~에 대해’ 같은 정형화하고 딱딱한 어법을 즐겨 썼다. 논리적이며 자연스러운 말을 만들기 위해 ‘그리고’ ‘그러나’ 같은 접속어도 자주 사용했다.
반면 진짜 사람은 감정을 표현하려고 기사 댓글에 특정 문자를 연달아 사용하는 일이 두드러졌다. ‘ㅋ’이 아니라 ‘ㅋㅋㅋㅋㅋ’처럼 썼다는 뜻이다. 여러 칸 띄어쓰기 같은 댓글 작성 습관도 사람에게 더 많이 나타났다. 격한 감정이 키보드의 스페이스 바를 여러 번 두드리는 행동으로 표현된 것이다.
연구진은 XDAC 존재 사실이 널리 알려지면 기사 댓글 조작을 예방하는 효과도 나타날 것으로 기대했다. 골목에 생긴 폐쇄회로(CC)TV가 범죄 억제 효과를 내는 것과 비슷한 원리다. XDAC를 쓰면 댓글 조작에 어떤 LLM 제품이 동원됐는지도 알 수 있다. 여론 조작 세력을 찾기 위한 단서를 확보하는 데 도움이 된다.
이번 연구를 다룬 논문의 제1저자인 고우영 국가보안기술연구소 선임연구원은 “AI 기반 여론 조작에 대응하기 위한 바탕을 마련한 데에 큰 의의가 있다”고 밝혔다.
송미령 농림축산식품부 장관이 이재명 정부 초대 농식품부 장관으로 유임됐다. 정권이 교체될 때 지난 정부 장관이 유임된 것은 이번이 처음이다.
충남 논살 출신인 송 장관은 농정 행정 전문가로 경력을 쌓았다. 이화여대 정치외교학과를 졸업하고 서울대학교 대학원에서 도시계획학 석사, 행정학 박사 학위를 받았다. 한국농촌경제연구원(KREI)에서 지역개발팀장·부원장·농업관측센터장 등을 역임했다. 윤석열 전 대통령은 2023년 12월 농식품부 장관으로 임명했다.
송 장관은 특히 윤 정부에서 더불어민주당이 추진한 양곡관리법 개정안에 거부권을 건의한 바 있어 이번 유임이 더욱 주목된다. 농식품부 안팎에선 송 장관이 새로운 대안을 제시했기 때문이라는 해석이 나온다. 송 장관은 이번 국정기획위 보고에서 양곡법 개정안을 추진할 대안도 보고한 것으로 전해졌다.
농식품부 관계자는 “지난해 양곡법 개정안에도 무조건 반대가 아니라 ‘대안을 찾자’고 말씀하셨다”면서 “송 장관의 농정 정책 전문성과 농식품부에서 추진한 정책이 어느정도 인정을 받은 것 아닌가 싶다”고 했다.
일각에서 지난해 12·3 불법 계엄 당시 국무회의 참석을 두고 ‘반성문’을 내놓은 점도 영향을 줬을 것이라는 분석도 나온다. 송 장관은 지난해 12월 국회에서 “계엄을 알았으면 국무회의 안 갔을 것이고, 국민께 송구하다”며 “그날 이후 장관을 한 것이 많이 후회된다”고 답했다. 학자 출신으로 상대적으로 정치색이 옅었다는 점도 일정 부분 영향을 끼쳤을 것이라는 해석도 있다.
강훈식 비서실장은 이날 브리핑에서 “송 장관의 유임은 보수, 진보 구분 없이 기회를 부여하고 성과와 실력으로 판단하겠다는 것으로 이재명 정부의 국정 철학인 실용주의에 기반한 인선”이라고 말했다.
농식품부 내부도 송 장관의 유임을 예상하지 못한 분위기다. 한 농식품부 관계자는 “유임은 생각 못했기 때문에 놀랍다는 반응이 주류”라며 “인사청문회에 들어가는 시간과 인력을 절약할 수 있어 향후 정책 추진 속도가 좀 붙지 않을까 생각된다”고 했다.
송 장관은 이날 국회 농림축산식품해양수산위원회 전체회의에서 “저도 상당히 당황스러운 상태”라면서도 “지금 여러모로 어려운 시기이기 때문에 책임감이 그 어느 때보다도 무겁다”고 소감을 밝혔다.
