X, 노골적인 가짜 이미지 확산 & 테일러 스위프트 검색 금지 해제

 

 

소셜 미디어 사이트에서는 디지털 방식으로 변경된 이미지가 플랫폼에 올라온 후 해당 가수의 이름에 대한 검색을 제한했습니다.

 

소셜 미디어 회사 X는 플랫폼에서 디지털 방식으로 노골적으로 변조된 테일러 스위프트의 사진이 유포된 후 며칠 동안 가수 이름에 대한 검색을 차단한 후 월요일 저녁에 테일러 스위프트에 대한 검색 금지를 종료했습니다.

X의 비즈니스 운영 책임자인 조 베나로치는 스위프트 검색에 대한 질문에 다음과 같이 답했습니다: "검색 기능이 다시 활성화되었으며, 이러한 콘텐츠를 퍼뜨리려는 시도를 계속 경계하고 이를 발견하면 삭제할 것입니다."

베나로치는 토요일에 "이 문제에 대한 안전을 우선시하기 위해" 해당 가수의 실명 검색을 중단했다고 말했습니다. 하지만 전체 이름 검색이 다시 시작되기 전에는 사용자들이 이름이나 성만 검색하거나 따옴표 안에 이름을 넣어 검색 금지를 쉽게 피할 수 있었습니다. 월요일 아침에는 그녀의 성이 플랫폼에서 인기 검색어에 올랐습니다.

주말 동안 Swift를 검색하면 오류 메시지가 표시되었습니다.

 

"지금 게시물이 로드되지 않습니다. 나중에 다시 시도하세요."라는 자동 메시지가 팝스타의 이름 검색에 대한 응답으로 표시되었습니다. 또 다른 메시지에는 이렇게 적혀 있었습니다: "문제가 발생했지만 걱정하지 마세요. 귀하의 잘못이 아닙니다."

스위프트의 대변인은 논평 요청에 응답하지 않았습니다.

이 에피소드는 인공 지능으로 조작되었지만 실제처럼 보이는 딥페이크 이미지에 대한 우려를 다시금 불러일으켰습니다. 디지털로 변조된 누드 이미지를 만드는 것은 연방 범죄가 아니지만, 이를 불법화하려는 시도가 의회에서 제기되고 있습니다. 미네소타, 뉴욕, 버지니아를 포함한 일부 주에서는 이러한 이미지를 성희롱의 한 형태로 규제하는 법률이 있습니다.

 

이 가짜 사진들은 X를 통해 확산되었고, 소유주인 엘론 머스크는 플랫폼의 신뢰와 안전을 담당하는 직원들을 대거 해고했습니다. 성적으로 노골적인 딥페이크 제작자들은 주로 여성과 소녀들을 표적으로 삼습니다.

'에라스 투어' 스타의 노골적인 디지털 조작 가짜 사진이 수요일에 X에서 확산되기 시작했습니다. 스위프트의 팬들은 X가 확산을 막기 위해 충분한 조치를 취하지 않는다고 불평하며 가수의 실제 사진으로 사이트를 공격했습니다. 그들은 또한 X가 가짜 사진을 삭제하기 위해 더 강력한 조치를 취하도록 촉구했습니다.

"테일러 스위프트를 보호하라"는 슬로건이 X에서 유행하면서 스위프트 팬들은 가수의 실제 이미지를 게시하여 가짜 사진을 없애기 위해 동원되고 있다고 말했습니다.

목요일까지 가장 많은 바이럴 이미지를 공유한 것으로 사용자들로부터 신고된 수많은 계정이 일시 정지되거나 다른 방식으로 제한되었지만, 여전히 플랫폼에서 가짜 사진을 비교적 쉽게 찾을 수 있었습니다.

백악관은 금요일에 이미지가 퍼지고 있다는 보고에 놀랐다고 말했습니다.

 

카린 장 피에르 백악관 공보 비서관은 "소셜 미디어 기업은 콘텐츠 관리에 대해 독립적인 결정을 내리지만, 잘못된 정보와 실제 인물에 대한 비합의적인 친밀한 이미지가 확산되는 것을 방지하기 위해 자체 규칙을 시행하는 데 중요한 역할을 해야 한다고 생각합니다."라고 말했습니다.

X는 지난주 온라인 성명을 통해 합의되지 않은 그래픽 이미지 공유에 대해 "무관용 정책"을 적용하고 있다고 밝혔습니다. 성명서에는 스위프트의 이름은 언급되지 않았습니다.

X의 정책은 기만적으로 변경된 유해한 미디어를 공유하는 행위와 당사자의 동의 없이 노골적인 이미지를 게시하는 행위를 금지하고 있습니다.

 

 

 

 

※Source: The Wallstreet Journal

https://www.wsj.com/arts-culture/music/x-lifts-ban-on-taylor-swift-searches-after-explicit-fake-images-spread-f2af8648?mod=hp_lead_pos11