AI의 가장 큰 위험 요소는 무엇인가요?

모든 기술 발전이 그러하듯, OpenAI의 ChatGPT, 이미지 생성기 Midjourney, AI 스타트업 Anthropic이 만든 챗봇 Claude와 같은 생성형 인공지능 도구는 생산성과 창작에 활용되는 동시에 사기 및 악용되는 사례도 증가하고 있습니다.

728x90

이러한 새로운 악성 콘텐츠 중에서도 특히 주목할 만한 것은 딥페이크입니다.

인위적으로 생성된 이러한 시청각 콘텐츠에는 정치인을 사칭한 유권자 사기나 유명인의 동의하지 않은 포르노 이미지 제작이 포함됩니다.

Microsoft의 최근 설문조사에 따르면 전 세계 온라인 사용자가 가장 우려하는 것은 가짜, 사기, 악용입니다

ai 위험요소

728x90

2023년 7월과 8월에 Microsoft가 17개국에서 실시한 설문조사에서 응답자의 71%가 AI를 이용한 사기에 대해 매우 또는 어느 정도 걱정하고 있다고 답했습니다.

이러한 종류의 사기가 무엇인지 더 명확히 밝히지 않더라도, 대중의 눈에 잘 띄는 사람, 정부 관계자 또는 응답자의 가까운 지인을 사칭하는 것과 관련이 있을 가능성이 가장 높습니다.

딥페이크와 성적 또는 온라인 학대가 69%로 공동 2위를 차지했습니다.

ChatGPT와 같은 챗봇이 학습 자료의 문제로 인해 말도 안 되는 답변을 사실인 것처럼 제시하는 것으로 정의되는 AI 환각이 4위, 사용자의 명시적 동의 없이 사용자의 공개 데이터를 학습하는 대규모 언어 모델과 관련된 데이터 프라이버시 문제가 62%로 5위를 차지했습니다.

전반적으로 응답자의 87%는 한 가지 이상의 인공지능 시나리오에 대해 어느 정도 우려하고 있었습니다.

다양한 출처에서 2024년에 3,000억 달러에서 5,500억 달러 사이로 추정되는 거대한 인공지능 시장에도 불구하고, 설문조사 결과는 인공지능의 잠재적인 함정과 위험을 무시하면 사회 전반에 해로울 수 있음을 시사합니다.

728x90

이는 특히 정치와 같은 민감한 영역에서 더욱 그러합니다.

가을에 미국 대선이 다가오면서 소셜 미디어 환경은 인위적으로 생성된 잘못된 정보와 허위 정보로 가득할 수밖에 없습니다.

최근 선거 주기에 사용되는 딥페이크와 AI를 주제로 열린 청문회에서 딥페이크 탐지 회사인 Reality Defender의 CEO인 벤 콜먼은 생성 AI의 일부 측면을 칭찬하는 동시에 그 위험성을 강조했습니다:

"저는 여기 앉아서 미국인들에게 악의적이고 위험한 딥페이크의 사용 사례를 일일이 열거할 수 없으며, 딥페이크가 세상에 부정적인 영향을 미치고 사회와 민주주의의 주요 측면을 침식할 수 있는 여러 가지 방법을 열거할 수도 없습니다."라고 콜먼은 말합니다.

"결국 제게 주어진 시간은 5분뿐입니다.

제가 할 수 있는 것은 딥페이크가 민주주의뿐만 아니라 미국 전체에 미칠 수 있는 영향에 대해 경종을 울리는 것뿐입니다."

 

출처:statista, What Are the Biggest Perceived Dangers of AI?