chatGPT AI writing 구별하는 새로운 서비스 출시

 

 

ChatGPT 제조업체의 새로운 도구는 인공지능이 학교에서 부정행위를 하는 데 어떻게 사용될 수 있는지에 대한 우려를 해결하는 것을 목표로 합니다.

그 도구는 AI 텍스트 분류기라고 불립니다. 학생이 아닌 AI 프로그램이 제작한 글을 식별할 수 있도록 설계되었습니다.

도구가 Open에 의해 시작되었습니다샌프란시스코에 본사를 둔 AI 기술 회사입니다. 그 회사는 어떤 종류의 글도 필요에 따라 작성할 수 있는 AI 시스템인 ChatGPT의 제조사입니다. 많은 교육 관계자들은 채팅 GPT가 학업 부정직을 부채질하고 학습에 해를 끼칠 수 있다고 우려합니다.

하지만, 열려있습니다AI는 이미 사용 가능한 다른 도구와 마찬가지로 새로운 AI 텍스트 분류 도구가 완벽하지 않다고 경고합니다. 오픈의 얀 레이크는 인공지능이 작성한 글을 감지하는 방법은 "때때로 틀릴 것"이라고 말했습니다AI입니다.

"그것 때문에, 결정을 내릴 때에만 의존해서는 안 됩니다."라고 그는 덧붙였습니다

미국

십대들과 대학생들은 11월 30일 채팅 GPT가 출시된 후 그것을 실험하기 시작한 수백만 명의 사람들 중 하나였습니다. 이 도구는 개방형 무료 서비스입니다AI의 웹사이트입니다.

많은 사람들이 그것을 창의적이고 무해하게 사용하는 방법을 찾았습니다. 그럼에도 불구하고, 일부 교육자들은 집에서 시험 문제를 풀거나 다른 과제를 수행할 수 있는 용이성에 대해 우려하고 있습니다.

전국의 학군들은 채팅 GPT에 대한 논의가 빠르게 변화하고 있다고 보고했습니다.

새해에 학교가 문을 열었을 때, 뉴욕시, 로스앤젤레스 그리고 미국의 다른 큰 공립학교 구역들은 교실과 학교 기기에서 그것의 사용을 막기 시작했습니다.

시애틀 공립학교 구역은 12월에 모든 학교 기기에서 ChatGPT를 차단했지만 교육자들에게 공개했습니다. 지역 대변인 팀 로빈슨은 교사들이 채팅 GPT를 교육 도구로 사용하기를 원한다고 말했습니다.

"우리는 그것을 무시할 수 없습니다."라고 로빈슨이 말했습니다.

구는 또한 교사들이 학생들에게 비판적 사고를 가르치기 위해 채팅 GPT를 사용할 수 있도록 교실로 확대하는 것을 논의하고 있습니다. 학생들은 또한 이 서비스를 "개인 가정교사"로 사용하거나 과제를 수행할 때 아이디어를 만드는 데 도움을 줄 수 있다고 로빈슨은 로빈슨은 말했습니다.

OpenAI는 최근 블로그에 탐지 도구의 한계에 대해 썼습니다. 그러나 회사는 이 도구가 표절을 잡는 것 외에도 인간을 모방하기 위한 허위 정보 캠페인과 AI의 오용을 찾는 데 도움이 될 수 있다고 덧붙였습니다.

글의 길이가 길수록, 그 도구는 인공지능 시스템이나 사람이 무언가를 썼는지를 더 잘 감지합니다. 인공지능 텍스트 분류기는 그것이 대학 입학 에세이인지, 랄프 엘리슨의 투명인간에 대한 문학적 연구인지 어떤 글이든 검토할 수 있습니다. 그런 다음 도구는 AI가 만든 것인지, 가능성이 있는지 또는 가능성이 있는지 여부를 "매우 가능성이 낮은, 가능성이 낮은, 불분명한" 것이라고 주장할 것입니다.

하지만 채팅 GPT 자체와 매우 유사하게 AI 텍스트 분류기가 어떻게 결과를 내놓는지 말하기는 쉽지 않다고 레이크는 말했습니다.

도구에 대해서는 아직 잘 이해되지 않은 부분이 많습니다. 그는 "분류기가 실제로 어떻게 작동하는지에 대해 현 시점에서 우리가 말할 수 있는 것은 정말 많지 않습니다."라고 말했습니다

국제적인 의견

전 세계 대학들도 AI 기술의 책임 있는 사용에 대해 논의하기 시작했습니다. 프랑스의 가장 유명한 대학들 중 하나인 파리 정치학 연구소 또는 과학 포는 최근 그것의 사용을 금지했습니다. Sciences Po는 필기 또는 음성 작업을 만들기 위해 ChatGPT와 다른 AI 도구를 사용하는 것을 발견한 사람은 누구나 학교와 다른 기관에서 금지될 수 있다고 경고했습니다.

비판에 답하려면 열기를 누르십시오AI는 교육자들을 돕기 위한 새로운 권고 사항을 만들기 위해 몇 주 동안 노력해 왔다고 말했습니다.

프랑스의 디지털 경제부 장관 Jean-Noell Barrot은 최근 캘리포니아에서 Open과 만났습니다CEO Sam Altman을 포함한 AI 리더들입니다. 일주일 후 바로트는 스위스 다보스에서 열린 세계 경제 포럼에 모인 사람들에게 그가 이 기술에 대해 희망적이라고 말했습니다. 그러나 정부 장관은 처리해야 할 어려운 도덕적 문제들도 있다고 말했습니다.

그는 "따라서 로스쿨에 재학 중이라면 다른 도구 중에서도 분명히 채팅 GPT가 비교적 인상적인 시험을 제공할 수 있기 때문에 우려의 여지가 있습니다."라고 말했습니다. "당신이 경제학과에 있다면, ChatGPT는 당신이 대학원 수준의 경제학과에 있을 때 기대되는 것을 찾거나 전달하는 데 어려움을 겪을 것이기 때문에 괜찮습니다."

그는 사용자들이 이러한 시스템이 어떻게 작동하는지 이해하여 어떤 편견이 존재할 수 있는지 아는 것이 점점 더 중요해질 것이라고 말했습니다.