Ofcom은 검색 엔진이 자해 게이트웨이 역할을 한다고 말합니다.

ChatGPT 출시 이후 콘텐츠 안전을 향한 큰 변화가 있었습니다. ChatGPT 및 기타 챗봇의 자체 검열은 검색 엔진에서는 실제로 문제가 되지 않지만 이제 Ofcom은 위험 중 하나, 즉 자해 콘텐츠에 쉽게 접근할 수 있다는 점을 강조하고 있습니다.

NCRI(Network Contagion Research Institute)가 Ofcom을 대상으로 한 새로운 연구에 따르면 Google, Bing, DuckDuckGo, Yahoo! 및 AOL을 포함한 주요 검색 엔진은 자해를 미화하거나 기념하는 콘텐츠에 대한 관문 역할을 할 수 있습니다. 웹페이지, 이미지, 비디오가 포함됩니다.

연구의 일환으로 NCRI는 실제 의미를 숨기기 위해 온라인 커뮤니티에서 사용되는 일반적인 자해 질문과 비밀스러운 용어를 입력했습니다. 37,000건의 검색 결과를 바탕으로 유해한 자해 콘텐츠가 많은 것으로 나타났으며, 이미지 검색은 특히 위험하며, 은밀한 검색어는 유해 콘텐츠가 더 많이 노출되는 것으로 나타났습니다.

결과에 대해 Ofcom의 온라인 안전 정책 개발 이사인 Almudena Lara는 다음과 같이 말했습니다.

“검색 엔진은 사람들의 온라인 경험의 출발점이 되는 경우가 많습니다. 우리는 검색 엔진이 심각하게 유해한 자해 콘텐츠에 대한 원클릭 관문 역할을 할 수 있다는 점을 우려하고 있습니다.

검색 서비스는 봄에 예정된 광범위한 협의에 앞서 잠재적인 위험과 보호 조치(특히 온라인에서 어린이를 안전하게 보호하기 위한 조치)의 효과를 이해해야 합니다.”

본 연구에서 한 가지 주요 주의사항은 연구원들이 안전 검색 및 이미지 흐리게 설정을 사용하지 않았다는 것입니다. 부모가 적절한 필터를 갖추고 있다면 끌 수 있는 옵션 없이 안전 검색과 같은 기능이 기본적으로 켜져 있어야 합니다. 이는 자녀를 어느 정도 보호해 주는 것입니다.

Ofcom은 최근 영국에서 통과된 온라인 안전법 의 집행자입니다 . 이는 어린이가 자해 조장, 자살, 섭식 장애와 같은 유해한 콘텐츠를 찾을 가능성을 줄이기 위한 조치를 취하도록 검색 엔진에 지시합니다. 봄에 상담이 예정되어 있습니다.

출처: 오프컴