뉴욕 시장, AI를 사용하여 다양한 언어로 로보콜을 걸다

 

 

뉴욕 시장 에릭 아담스는 인공 지능(AI)을 사용하여 여러 언어로 로봇 전화를 걸고 있습니다.

이 기술은 아담스의 목소리를 그가 사용하지 않는 언어로 바꿔줍니다. 그리고 이는 정부의 AI 사용에 대한 새로운 윤리적 의문을 제기합니다.

아담은 최근 기자들에게 로보콜이라고 불리는 이 전화에 대해 이야기했습니다. 그는 시 행사를 위해 만다린어와 이디시어 같은 언어로 전화를 걸었다고 말했습니다. 그는 자신이 영어만 사용한다는 정보나 AI를 사용해 전화를 걸었다는 정보는 포함하지 않았습니다.

"사람들은 항상 길거리에서 저를 멈추고 '당신이 만다린어를 할 줄 몰랐어요'라고 말합니다."라고 아담스는 말했습니다. "우리가 사용하고 있는 로보콜은 다양한 언어를 사용하여 다양한 뉴욕 시민들과 직접 대화하고 있습니다."

이러한 전화는 AI를 윤리적이고 합법적으로 사용하는 최선의 방법에 대한 의문이 제기되는 가운데 나온 것입니다. 딥페이크 비디오나 오디오는 컴퓨터 화면 반대편에 있는 사람이 원하는 행동을 하는 것처럼 보이게 만들 수 있습니다.

감시 기술 감독 프로젝트는 아담스의 로보콜을 뉴욕 시민들에게 오해를 불러일으키는 비윤리적인 AI 사용이라고 불렀습니다.

앨버트 폭스 칸은 이 단체의 전무이사입니다. 그는 이 전화가 특히 공적 자금으로 지불되기 때문에 매우 비윤리적이라고 말했습니다. "모든 뉴욕 시민의 모국어로 된 공지가 필요한 것은 맞지만 딥페이크는 소름 끼치는 허영 프로젝트일 뿐입니다."

인공지능과 딥페이크는 특히 정치 및 선거 관련 허위 정보에서 점점 더 많이 사용되고 있습니다. 이로 인해 정부와 주요 미디어 회사에서 더 많은 규칙과 정책을 마련해야 한다는 요구가 커지고 있습니다.

구글은 AI를 사용하여 후보자의 목소리나 행동을 위조하는 정치 광고를 식별하겠다고 밝힌 최초의 대형 기술 회사입니다. 메타에는 정치 광고에 AI를 사용하는 것과 관련된 규정이 없습니다. 하지만 잘못된 정보에 사용되는 가짜 또는 조작된 오디오와 이미지를 제한하는 정책을 가지고 있습니다.

미국 상원의 초당파적 법안은 패러디를 제외하고 연방 후보와 관련된 "실질적으로 기만적인" 딥페이크를 금지하는 법안입니다. 이번 달에는 민주당 소속 국회의원 두 명이 트위터의 전신인 Meta와 X의 수장에게 서한을 보냈습니다. 이 서한에는 소셜 미디어 플랫폼에서 인공지능이 만든 정치 광고에 대한 우려가 담겨 있었습니다.

최근 몇 주 동안 많은 기술 회사들이 사람의 음성을 취해 마치 다른 언어로 말하는 것처럼 들리게 하는 AI 도구를 선보였습니다.

지난 9월, 음악 스트리밍 서비스인 Spotify는 녹음 또는 팟캐스트를 화자의 목소리로 여러 언어로 번역하는 AI 기능을 도입했습니다. 최근에는 10월에 스타트업 ElevenLabs가 음성 번역 도구를 출시했습니다. 이 도구는 화자의 목소리를 그대로 유지하면서 다른 언어로 음성 단어를 변경할 수 있습니다.

아담스 의원실 대변인은 로보콜에 ElevenLabs 툴을 사용했다고 밝혔습니다. 원어민은 번역이 정확한지 확인하기 위해 녹음된 내용을 녹음하기 전에 들었습니다. 스페인어, 이디시어, 만다린어, 광둥어, 아이티 크리올어로 통화가 이루어졌습니다.

아담스는 인공지능 사용에 대한 윤리적 의문에 대해 자신의 사무실은 뉴욕 시민이 사용하는 언어를 통해 뉴욕 시민에게 다가가기 위해 노력하고 있다고 자신을 변호했습니다.

"저는 뉴욕시를 운영해야 하고, 시민들이 이해하는 언어로 대화할 수 있어야 하며, 그렇게 할 수 있게 되어 기쁩니다."라고 그는 말했습니다.