딥페이크기술의양날. 페이스북 이 대비하는 문제
최근 페이스북에서 변화된 AI 감지 알고리즘으로 인하여 딥 페이크 영상의 3분의 2를 발견하여
딥 페이크의 대항하려는 노력을 꾸준히 하고 있습니다. 작년 9월 딥 페이크 비디오의 위험성에
대한 추측이 커지면서 페이스북은 인공지능을이용하여 딥 페이크 비디오 탐지 기술을 개발에
도전했습니다. 올해 1월 페이스북 회사는 유포하는 데 사용하는 딥 페이크의 사용도 금지하였는데요.
페이스북의 딥페이크 비디오 감시의 도전은 마이크로소프트, 아마존 웹서비스와 공동으로
AI에 대한 파트너십을 체결 구글이 사용하고 있는 대회 플랫폼을 사용해 유료 엑터를 사용하여 제작한
100.000 개의 딥 페이크 클립을 제공받았으며 여러 개 발자들의 AI가 탐지 알고리즘을 테스트했습니다.
이 프로젝트는 산업계와 학계에서 2000개 이상의 참가자들을 끌어모았으며
35000개 이상의 심층 모델을 생성했습니다.
콘테스트에서 등장한 최고의 모델은 82%가 조금 넘는 딥 페이크 클립을 감지해냈습니다.
그러나 그 알고리즘은 이전에 보이지 않던 일련의 딥 페이크 영상에 대해 테스트했을 때
성능이 약 65% 조금 넘는 수준으로 떨어졌는데요. 페이스북 주도의 프로젝트의 정통한
UC Berkeley의 교수이자 디지털 법의학 권위자 인 하니 파라드(HanyFarid) 교수는.
"이것은 모두 인간 진행자를 돕는 데 좋은 것이지만, 하지만 필요한 정확도 수준에도 미치지 못한다"
라며 말하였고. "10억 분의 1의 순서를 실수할 가능성이 있을 수 있다, " 라며
말했다 이외 딥 페이크는 인공 지능을 사용하여 사람의 얼굴을 다른 사람에게
디지털 방식으로 접목하여 마치 그 사람이 한 적이 없는 것을 한 것처럼 보이게 합니다
현재 대부분의 딥 페이크는 기괴하고 재미있습니다. 몇 명은 영리한 광고에 나타났습니다.
라며 딥 페이크 기술의 관하여 긍정적인 면도 소개했는데요.소개했는데요.
하지만 언젠간 딥 페이크가 정치적 오보, 증오심 표현 또는 괴롭힘을 위한
강력한 무기가 되어 페이스북과 같은 플랫폼에 널리 퍼질 수도 있다는 점이며
이미 무료로 이용할 수 있는 AI로 구축된 간단한 프로그램으로도
딥 페이크를 만들 수 있을 정도로 진입장벽이 낮다는 점도 말하였는데요.
페이스북 최고의 기술 책임자인 마이크 슈 뢰퍼(MikeSchroepfer)는
연구원들이 더 많은 시간과 에너지를 투입하고 있어
개인적으로 실망했다는 표현도 하였는데요. 그는 이러한 문제를 딥 페이크를
탐지할 수 있는 도구와 기술에 대한 광범위한 산업의 초점을 장려하여
악의적인 방식으로 사용하는 경우 이를 해결하기 위한 접근 방식으로
확장할 수 있게 해야 한다. 라며 말했습니다. 이번 프로젝트에 참여한
마이크 슈 뢰퍼( Mike Schroepfer)는 몇 달 밖에 시간이 걸리지 않았기 때문에
도전과제의 결과는 매우 인상 깊었다고 생각하였고
딥 페이크는 아직 큰 문제는 아니지만 유저들이 딥 페이크를 무기로 사용할 경우를
대비하는 것이 중요하다며 말했습니다. 마이크 슈 로퍼는 잘못된 기술로 일어나는 나쁜 일에
실제로 대비하고 싶다고 입장을 말했으며 딥 페이크 챌린지의 최고 점수
를받은 AI알고리즘은 밸로 루시 민스크에 있는있는
Mapbox의 기계 학습 엔지니어 인 Selim Seferbekov(셀림 세페르 베코프)
에 의해 제작되었습니다. 그는.$ 500,000 를를거 뭐지며 우승했으며..
Seferbekov는 “현재로서는 악의적인 사용이 매우 적으나. 그는 개선된
기계 학습 접근법이 이 상황을 변화시킬 수 있을 것으로 의심하고 있으며
이를 악용하는 사람들이 오늘날 쓰인 가짜 뉴스와 같은, 미래에 어떤 영향을 미칠지도 모른다."
라며 말하였고 세페르 베코프는 알고리즘은 다른 사람들이 사용할 수 있도록
오픈 소싱할 것이라며 말했습니다.
그 외
UC 버클리의 파라드 하니 파라드(HanyFarid) 교수는. 새로운 기술이 빠르게 등장하고 있으며
악의적인 딥 페이크 제조자가 특정 검출기를 앞지르기 위해 노력할 수 있기 때문에
정말 유용한 만드는 것은 경쟁을 제안하는 것보다 훨씬 더
어려울 수 있다고 말햿으며 페이스북 사용자들이 올리는 콘텐츠에 대한
경찰 조사를 꺼리는 것처럼 보이는 페이스북이 이러한 프로젝트의 가치에 의문을 제기하는데
마크 주커버그는 자신들은 진실의 중재자가 아니라고 말하였고 페이스북은
왜 이런 공익을 위한 프로젝트를 진행하냐고 질문하였다 이에 페이스북은
정책이 바뀔지라도 소셜미디어 회사에 허위 뉴스에 대한 도전과제를 안고 있다고 말했고
딥 페이크는 그들에게 새롭게 부상하는 위협이지만.
페이스북은 소셜미디어 회사가 그 문제에 너무 정신이 팔리지 않도록 격려하겠다고 말했다.
안녕하세요. IT, 게임 소식을 발 빠르게 전해드리는 발 빠른 입니다. 오늘도 포스팅 글을 봐주셔서 감사합니다.
여러분들의 방명록 작성과 댓글 관심은 저에게 큰 힘이 됩니다. 감사합니다.