로봇 상담원 '챗봇'에 욕설·성희롱하면 무죄? 유죄?

  • 법원이 로봇 상담원을 향한 욕설·성희롱을 범죄로 판단하는 기준
  • '무죄' 민원인 "몰랐다"는 주장…고의성 없음 의미
  • 챗봇 관리자 인지 사실 알고도 계속하면 범죄 가능성↑
info
입력 : 2022-06-08 16:00
수정 : 2022-08-16 08:57
프린트
글자 크기 작게
글자 크기 크게

기자가 따릉이 이용방법을 알기 위해 서울톡을 이용하는 사진 [사진=서울톡 화면 캡처]

[아주로앤피] 서울 종로구 이마빌딩에서 근무하는 기자는 따릉이(서울시 공유자전거)를 이용하기 위해 카카오톡 친구인 '서울톡'을 이용해 봤다. 서울톡은 메신저를 통해 각종 질문에 자동으로 답해주는 인공지능(AI) 로봇 상담원인 챗봇이 하는 민원상담 서비스다.  이 로봇 상담원은 8일 현재 '카톡 친구'가 31만1256명일 정도로 인기가 많다. 실제로 써보니 서울톡은 대기시간 없이 짧은 단어로 질문하면 바로 궁금한 정보를 얻을 수 있어 편리했다.
 
최근 공공기관과 대부분의 대기업, 인터넷 상거래업체들은 챗봇 서비스를 제공하고 있다. 그런데 사람 상담원이 아닌 챗봇에 욕설과 성희롱을 하는 사람들이 있다. 법원은 이런 행위를 범죄로 볼까? 범죄라면 어느 법을 적용할까? 무슨 법을 통해 어떤 기준으로 유·무죄를 판단하는지 흥미로운 판결이 최근 나왔다.
 

[사진=픽사베이]

◆ 챗봇(AI) 향한 욕 무죄판결, 왜?
6일 연합뉴스 보도에 따르면 거주지 인근에서 반복되는 불법 주정차로 고통스러워하던 민원인 A씨는 2019년 11월부터 2020년 7월까지 서울톡에 총 280여건의 불법주정차 신고 민원을 넣었다. 이 중 A씨는 총 38회의 성희롱과 욕설이 포함된 메시지를 전송했다.
 
서울중앙지법은 성폭력범죄처벌 등에 관한 특례법(통신매체 이용 음란)위반 혐의로 재판에 넘겨진 A씨에게 무죄를 선고했다.
 
A씨는 재판 과정에서 “인공지능 상담사에게 보낸 메시지이지, 사람에게 보낸 것은 아니다. (사람) 상담원이 챗봇에 쓴 글을 읽었다는 걸 알고 놀랐다”고 주장했다.
 
재판부는 “피고인은 2020년 7월 ‘서울톡으로 민원을 접수해도 직원이 보고 이관한다’는 메시지를 받고 중단했다”며 “챗봇에 전송한다는 인식을 넘어 사람에게 도달한다는 고의가 있다는 게 입증됐다고 보기 어렵다”고 무죄 판결 이유를 설명했다.

2002년생 21살 여성 챗봇(AI) 이루다 프로필. [사진=이루다 홈페이지]

◆ 이루다가 이루지 못한 클린 챗봇 문화
남성·여성 성별이 특정되지 않은 서울톡에 성희롱과 욕설 문제가 발생하기에 앞서 작년 1월 등장한 '이루다' 챗봇 서비스에서 처음으로 이런 일이 발생했다. 21살의 여성 캐릭터인 이루다 챗봇은 '스캐터랩'에서 만든 챗봇으로 ‘Nutty’라는 자체 메신저를 통해서만 이용할 수 있다. 스캐터랩은 "사람들이 더 행복한 연애를 할 수 있도록 실질적인 도움을 주는 콘텐츠 서비스를 만들고 있어요!"라고 홍보하는 스타트업이다.

그러나 이루다는 첫 출시 3주 만에 욕설과 성희롱을 비롯한 문제로 서비스를 중단했다.

이루다 첫 출시 당시 일부 서비스 이용자들은 이루다에게 성관계 및 음란행위를 암시하는 질문을 보내 이루다가 외설스러운 답변을 하도록 유도하는 질문을 했다. 이후 사용자들 사이에서 챗봇에 하는 행위도 엄연한 성범죄 행위에 속한다며 처벌을 촉구하는 입장과 단지 AI에 불과하다는 입장으로 나뉘며 논란을 빚었다.
 
이루다는 올해 1월 베타 테스트를 시작으로 챗봇 서비스를 재개했다. 지금의 이루다는 어뷰징 대응 시스템을 통해 성희롱, 욕설 질문에 대해서 부적절하게 반응하지 않게 시스템이 만들어졌다. 또한 질문자와 이루다의 대화에는 사람이 절대 개입하지 않는다고 설명했으며, 폭언하는 질문자에 대한 제재 방식에 대해서는 안내하고 있지 않다.
 

[사진=연합뉴스]

◆ 챗봇 처벌은 불가 그러나 사람이 확인하면 가능
서울톡 관련 1심 판결과 같이 챗봇 서비스에서 욕설, 성희롱 발언에 대한 처벌은 쉽지 않다. 처벌하기 위해서는 이용자의 고의성을 입증할 수 있어야 한다. 이때 고의성이란 챗봇에 보낸 욕설, 성희롱 발언이 실제 상담원에게 보고됨을 인지한 후에도 메시지를 보냈는지를 말한다.
 
즉, 실제 상담원에게 챗봇의 내용이 전달되지 않거나 이용자가 실제 상담원이 볼 수 있음을 인지하지 못한 상황이라면 처벌할 수 없다.
 
이와 반대로, 챗봇이 아닌 상담원에게 욕설을 비롯한 폭언을 하는 경우 다음 법규에 따라 처벌 받을 수 있다. 경범죄 처벌법 제3조(업무방해) 못된 장난 등으로 다른 사람, 단체 또는 공무수행 중인 자의 업무를 방해한 사람은 20만원 이하의 벌금, 구류 또는 과료의 형으로 처벌한다.
 
음란 메시지를 비롯한 성적 불쾌감을 주는 발언에 대한 처벌은 다음과 같다. 성폭력범죄의 처벌 등에 관한 특례법 제13조(통신매체를 이용한 음란행위) 자기 또는 다른 사람의 성적 욕망을 유발하거나 만족시킬 목적으로 전화, 우편, 컴퓨터, 그 밖의 통신매체를 통하여 성적 수치심이나 혐오감을 일으키는 말, 음향, 글, 그림, 영상, 또는 물건을 상대방에게 도달하게 한 사람은 2년 이하의 징역 또는 2000만원 이하의 벌금에 처한다.
 
앞으로 증가하는 챗봇 서비스 도입에 따라 이용자들도 증가할 전망이다. 깨끗한 챗봇 이용 문화와 법적 처벌을 예방하기 위해 상담원이 내용을 볼 수 있는지 없는지를 떠나 이용자 스스로가 주의해서 챗봇 서비스를 이용하길 바란다. 

기사 이미지 확대 보기
닫기