라스베가스 회의에서 AI 도구의 한계를 시험하는 컴퓨터 해커들

 

이번 여름에 계획된 컴퓨터 해커들의 주요 회의는 인공지능(AI) 도구의 한계를 시험하는 행사를 포함하는 것입니다.

8월에 열리는 이 행사는 네바다 주 라스베가스에서 열리는 연례 DEF CON 해커 회의의 일환으로 개최될 예정입니다. 이 모임에는 해커 외에도 컴퓨터 보안 전문가, 학생, 연방 정부 관계자 등이 참석합니다.

주최측은 올해 행사에는 수천 명의 해커들이 참가할 것으로 예상된다고 밝혔습니다. 이 회의는 해커들이 업계 주요 관계자들로부터 컴퓨터 보안의 최신 발전에 대해 들을 수 있는 기회를 제공합니다. 그것은 또한 해킹 대회를 포함합니다.

올해, 몇몇 주요 AI 개발자들이 데프콘에 참여할 것입니다. 그 중에는 3월에 최신 AI 모델인 ChatGPT-4를 출시한 OpenAI도 포함될 것입니다. 미국의 소프트웨어 제조업체 마이크로소프트는 OpenAI에 많은 투자를 했습니다. 구글은 또한 올해 초 바드라고 불리는 AI 시스템을 출시했습니다.

조 바이든 대통령 행정부는 최신 AI 도구를 연구하기 위한 노력의 일환으로 해킹 사건을 지원할 것이라고 말했습니다. 행정부 관리들은 정부가 빠르게 발전하는 시스템이 사람들의 권리와 안전을 위험에 빠뜨리지 않고 계속해서 개선될 것을 보장하는 것을 목표로 하고 있다고 말했습니다.

최근 출시된 인공지능 도구는 머신러닝 컴퓨터 시스템에 엄청난 양의 정보를 공급하여 구축됩니다. 이 데이터는 AI 시스템이 복잡한 기술을 개발하고 인간과 같은 결과를 낼 수 있도록 훈련시킵니다.

전문가들은 이러한 시스템이 많은 다양한 직업과 산업에 큰 변화를 가져올 수 있다고 경고했습니다. 그들은 또한 "챗봇"으로 알려진 도구가 뉴스 미디어와 소셜 미디어에서 잘못된 정보의 양을 크게 증가시킬 수 있다고 우려합니다.

DEF CON 이벤트 주최자는 참석자들이 다음과 같은 질문에 답하려고 할 것이라고 말합니다: 해커가 챗봇을 변경하여 해를 입힐 수 있는 방법은 무엇입니까? 그들은 다른 사용자들과 비밀을 의미하는 개인 데이터를 공유합니까? 그리고 왜 성별과 인종에 대한 정보를 처리할 때 시스템이 쉽게 혼동됩니까?

"이것이 우리가 수천 명의 사람들이 필요한 이유입니다," Rumman Chowdhury가 AP 통신에 말했습니다. 그녀는 해킹 이벤트의 주최자이자 AI 책임 비영리 단체인 휴메인 인텔리전스의 공동 설립자입니다.

Chowdhury는 "우리는 다양한 실제 경험, 주제 전문 지식 및 배경을 가진 많은 사람들이 이러한 모델을 해킹하고 해결될 수 있는 문제를 찾기 위해 노력해야 합니다."라고 덧붙였습니다

Chowdhury는 그 행사의 결과가 빠르게 발전하는 AI 시스템을 안전하게 사용하는 방법을 찾는 회사들에게 도움이 되는 정보를 제공할 수 있다고 말했습니다. 그녀는 해커들의 작업이 모임 후에 끝나지 않을 것이라고 언급했습니다. 조사 결과에 대한 보고서를 작성하고 특정 시스템 취약성을 식별하는 데 수개월이 소요됩니다.

Alexandr Wang은 AI 개발자 Scale AI의 최고 경영자입니다. 그는 AP에 "이러한 기반 모델이 점점 더 널리 퍼지면서, 우리가 그들의 안전을 보장하기 위해 할 수 있는 모든 것을 하는 것이 정말 중요합니다."라고 말했습니다

Wang은 특히 챗봇이 "믿을 수 없을 정도로 나쁜 의학적 조언"이나 심각한 해를 끼칠 수 있는 다른 잘못된 정보를 제공하는 것에 대해 걱정한다고 말했습니다.

잭 클라크는 인공지능 개발자 앤트래픽의 공동 설립자입니다. 그는 데프콘 행사가 AI 개발자들로부터 시스템의 안전성을 측정하고 테스트하기 위한 더 깊은 약속으로 이어지기를 바란다고 말했습니다.

그러나 이러한 일이 일어나려면 AI 시스템이 배포 전후에 모두 제3자에 의해 검사되어야 할 것이라고 Clark는 말했습니다. "우리는 이것을 하는 방법을 알아내는 연습을 할 필요가 있습니다. 그것은 실제로 전에 이루어진 적이 없습니다," 라고 그가 말했습니다.