뉴스

앱이 여성 사진에서 옷을 제거하고 AI가 오용되는 방식에 대한 역겨운 사례

면책 조항 :이 이야기의 내용은 '작업에 안전하지 않음'이므로주의해서 진행하십시오. 또한 MensXP는 소프트웨어의 소스 또는 홍보가 아닙니다. 이야기의이면에있는 아이디어는 AI가 오용 될 경우 AI가 무엇을 할 수 있는지 사람들에게 알리는 것입니다.

세상을 더 좋게 바꾸어 놓은 모든 기술 발전에 압도당하는 날이 있습니다. 그리고 기술이 할 수있는 모든 끔찍한 일에 대해 우리가 끔찍하고 역겨운 생각을하는 날이 있습니다.

여러분 대부분은 'Deepfakes'라는 단어를 가지고있을 것입니다. 글쎄요, 당신이 그것이 끔찍하다고 생각한다면, 당신은이 새로운 소프트웨어에 대해 배우는 것을 두려워 할 것입니다. 분명히 말하지 않을 것입니다. 역겨운 소프트웨어이고 이름을 밝히고 홍보 할 방법이 없습니다.

AI와 신경망의 힘을 활용하여 여성의 가짜 누드 사진을 만드는 소프트웨어입니다. 네, 당신이 지금 무슨 생각을하는지 알아요. 애초에 존재해서는 안되는 정말 역겨운 앱입니다. 사실 다운로드하고 사용하는 것이 얼마나 쉬운 지 알기 위해 상당히 놀랐습니다. 사람들이 손을 잡고 직장이나 공공 장소에서 오용하기 전에 가능한 한 빨리 제거해야한다고 생각합니다. 예를 들어, 잘못된 손에 들어가면 어떻게되는지 생각해보십시오. 나는 변태와 소아 성애 자들이 그것을 사용하기 시작할 때 어떤 일이 일어나는지 생각하고 싶지도 않습니다.

간단히 말해서, 소프트웨어는 완벽하게 옷을 입은 사람의 사진을 같은 사람의 사실적인 누드 이미지로 바꿀 수 있습니다. 나는 당신이 그것이 무엇을하는지 알고 있다고 믿기 때문에 그것을 큰 소리로 철자하지 않을 것입니다. 소프트웨어가 할 수있는 일은 다음과 같습니다.

이 앱은 여성의 옷을 제거합니다

따라서 소프트웨어는 여성의 이미지에서만 작동합니다. 네, 이것을 만든 사람들은 그들이 만들고 싶은 것에 대해 매우 특별했고 놀랍게도 잘 작동합니다. 에 따르면 마더 보드 , 예를 들어 수영복과 같이 이미 많은 피부를 보여주는 이미지에서 가장 잘 작동하는 것으로 보입니다.

이것을 만든 사람들은 말 그대로 소프트웨어를 무료로 다운로드 할 수 있도록 웹 사이트를 설정했습니다. 추가 기능을 제공하는 유료 버전의 소프트웨어도 있습니다. 확인하기 위해 앱을 다운로드 할 생각이 없어서 조사를했습니다.

테스트 한 사람들에 따르면이 소프트웨어는 Windows와 Linux 시스템 모두에서 작동하며이를 사용하기위한 전문 지식이 전혀 필요하지 않습니다. 기본 사진 편집기에서 이미지를 자르는 것만 큼 쉽습니다. 더 많은 이미지를 추가하고 앱을 홍보하는 것도 신경 쓰지 않을 것이지만, 제가 본 결과로 보면 매우 정확하게 작동하는 것 같습니다.

장력 매듭을 묶는 방법

익명의 앱 제작자가 왜 그렇게 무서운 소프트웨어를 만들 었는지 물었을 때 다음과 같이 말했습니다.

약 2 년 전에 저는 AI의 잠재력을 발견하고 기초를 공부하기 시작했습니다. GAN 네트워크가 주간 사진을 야간 사진으로 변환 할 수 있다는 사실을 알았을 때 옷을 입은 사진을 누드 사진으로 변환 할 수 있다는 것을 깨달았습니다. 유레카. 엑스레이 안경이 가능하다는 것을 깨달았습니다! 그 발견에 대한 재미와 열정에 힘 입어 첫 번째 테스트를했고 흥미로운 결과를 얻었습니다.

솔직히, 그가 만든 이유는 중요하지 않습니다. 우리 인간은 이런 소프트웨어가이 세상에 존재하고, 말 그대로 누구나 다운로드 할 수 있고 슬프게도 매우 현실적으로 보이는 가짜 누드 이미지를 만들 수 있다는 사실에 대해 더 걱정해야합니다.

딥 페이크 자체를 만드는 아이디어는 무서웠지만 이것은 다른 수준으로 나아가는 것입니다. 더 큰 문제가되는 이유는 이와 같은 앱이 딥 페이크보다 쉽게 액세스 할 수 있고 사용하기 쉽기 때문입니다. 비디오 게임처럼 설치하고 플레이하는 것만 큼 쉽다는 사실이 무섭습니다.

나는 시스템이 딥 페이크를 더 잘 감지하기를 정말로 바란다. 나는 이것이 잘못된 손에 들어가면 어떻게 오용 될 수 있는지 상상할 수 있습니다. 딥 페이크와 이와 같은 앱이 AI가 할 수있는 일을 거의 긁지 않는다고 말하는 것은 끔찍합니다. AI 사용에 대한 적절한 규제가 없다면 우리는 운명을 맞이할 것 같습니다.

출처: 바이스