허깅페이스, 여성 및 아동 대상 딥페이크 제작에 악용

AI 모델 공유 플랫폼인 허깅페이스가 여성과 아동을 대상으로 한 비동의적 딥페이크 제작에 악용되고 있다는 보고서가 나왔습니다. 유럽 비영리 단체 AI Forensics의 조사에 따르면, 허깅페이스에 호스팅된 상위 9개 이미지 편집 모델 중 7개가 간단한 프롬프트만으로도 여성의 옷을 벗기는 요청에 쉽게 응한 것으로 나타났습니다.

이는 AI 기술의 오용 가능성과 플랫폼의 책임에 대한 심각한 윤리적 문제를 제기합니다. 특히, 이러한 딥페이크는 개인의 명예를 훼손하고 심각한 정신적 고통을 야기할 수 있으며, 아동 대상 범죄에 악용될 경우 더욱 심각한 사회적 파장을 일으킬 수 있습니다.

보고서는 허깅페이스 측이 이러한 문제에 대해 "플랫폼 차원에서 어떠한 안전장치도 구현하고 있지 않다"고 지적하며, AI 모델 공유 플랫폼의 책임 있는 운영과 기술 악용 방지를 위한 적극적인 조치를 촉구했습니다. 기술 발전과 함께 윤리적 책임 또한 강조되어야 할 시점입니다.