1일 국민참여입법센터에 공개된 국회입법현황에 따르면 안상훈 의원 등 10인은 '자살예방 및 생명존중문화 조성을 위한 법률 일부개정법률안'을 발의했다. 의안번호는 제2221001호다.
개정안은 생성형 인공지능을 활용한 서비스를 제공하는 인공지능사업자가 서비스 이용자의 자살 방지를 위한 조치 체계를 구축·운영하도록 하는 내용을 담았다. 이용자가 자살 관련 내용을 입력하는 경우 이를 즉시 감지하고 해당 이용자에게 자살예방센터 등의 상담·지원을 안내하도록 하려는 것이다.
제안이유에는 최근 미국에서 10대 청소년이 챗봇을 통한 상담 도중 자살한 사건이 발생했고, 이는 챗봇 등 생성형 인공지능이 우울ㆍ불안 등을 겪는 사람에게 정신적 도움을 주기보다는 오히려 자살심리를 유도해 자살위험에 노출되게 할 수도 있음을 보여주는 사례라고 적시됐다.
현행법에는 정부와 정보통신서비스 제공자의 자살유발정보 유통 차단을 위한 협력 및 의무만 규정돼 있고, 인공지능사업자에게 인공지능 서비스 이용자의 자살 방지를 위한 조치 의무를 부과하는 근거는 마련돼 있지 않다는 것이 개정안의 문제의식이다.
개정안은 이런 내용을 반영해 안 제19조의6을 신설하도록 했다.
※ 이 기사는 공개된 자료를 바탕으로 AI 기술을 활용해 분석·정리한 기사입니다.
<저작권자 © 아주로앤피 (www.lawandp.com) 무단전재 및 재배포금지>
