검색창에 몰래 '이것' 검색하는 사람들, 이제 AI 통해 '차단·처벌' 받게 될 수도 있다

식품의약품안전처(식약처)가 온라인에서 소비자 피해를 예방하기 위해 식품‧의약품‧마약류 등의 불법유통, 허위·과대광고 등을 판별해 신속 차단·조치할 수 있는 인공지능(AI) 기반 시스템 구축을 올해 추진하겠다고 12일 밝혔다.

해당 시스템이 도입되면 온라인상 불법유통 등에 대해 상시 자동으로 모니터링하는 것 등이 가능해질 전망이다.

식약처에 따르면 최근 중고 거래, SNS 등 온라인 판매 형태( 다양해지면서 식품‧의약품 등의 불법유통, 허위‧과대광고가 늘어나고 있다. 특히 SNS를 이용해 청소년·학생들에게 마약류를 판매하는 경우가 지속적으로 발생하고 있는 것으로 전해졌다. 이에 따라 식약처는 온라인을 상시 모니터링하고 신속하게 차단하는 감시 체계 구축을 추진하게 되었다고 밝혔다.

AI 기반 시스템 관련해 식약처는 "올해는 375백만 원 예산을 투자하여 ▲마약류 등 판별 알고리즘 개발 ▲검색 방지용 광고 단속 기능 ▲방송통신심의위원회 및 유관기관(플랫폼, SNS 등)에 자동 신속 차단요청 기능 등을 구축할 계획"이라고 구체적으로 설명했다.

즉 해당 시스템이 구축되면, 이제 'ㅍㅌㄴ', '펜_타_닐' 등과 같은 단어를 검색창에 입력할 시 AI는 '펜타닐'로 판단하는 유사성을 검토하는 동시에 검색을 피하기 위한 초성, 은어 등을 체크하게 된다. 이후 방송통신심의위원회, 플랫폼 등에 적발 데이터에 대한 신속 차단 요청이 전달되어 진다. 이 같은 프로세스는 SNS 등 마약 판매성향이 있는 게시글을 판단해 적발하는 알고리즘 개발을 통해 이뤄진다.

식약처는 "이번에 구축하는 AI 기반 시스템이 심야·휴일 등 취약 시간에도 자동으로 모니터링하여 소비자의 피해를 예방하는 데 도움을 줄 것으로 기대한다"며 "앞으로도 불법유통, 허위‧과대광고 등을 최대한 신속하게 차단·조치하겠다"고 강조했다.